Inglês 
Espanhol 
4 min de leitura 
0 comentários 
Manipulação de IA faz chatbots divulgarem informações falsas e amplia riscos de desinformação online e segurança digital.
A manipulação de IA já não é apenas uma hipótese acadêmica.
Um experimento conduzido por um jornalista mostrou como, em menos de 24 horas, onde os principais chatbots do mercado — como sistemas de busca com IA e assistentes conversacionais — passaram a repetir informações falsas publicadas em um único blog.
O teste, feito recentemente na internet aberta, revelou por que a desinformação online pode ser amplificada por conteúdos aparentemente simples e como isso ameaça a segurança digital dos usuários, especialmente em temas sensíveis como saúde e finanças.
-
O ‘tsunami’ de investimentos direcionados a empresas de Inteligência Artificial (IA) e de semicondutores, que priorizam segurança e lucros mais previsíveis, tem sido determinante para a trajetória declinante do Bitcoin
-
Samsung mira fábrica estratégica de chips na Coreia do Sul e pode mexer no tabuleiro global da IA com avanço em memórias HBM e embalagem avançada
-
Nvidia fecha acordos na Coreia do Sul para fábricas de IA e coloca data centers, chips avançados e nuvem global em outro patamar até 2027
-
ChatGPT revela qual emprego humano escolheria se pudesse trabalhar de verdade
Segundo o relato, bastou criar um artigo inventado em um site pessoal para que ferramentas de IA começassem a reproduzir o conteúdo como se fosse factual.
O objetivo era demonstrar vulnerabilidades técnicas e a facilidade com que práticas de SEO spam podem influenciar respostas automatizadas.
Como a manipulação de IA enganou chatbots em poucas horas
O experimento consistiu na publicação de um ranking fictício sobre jornalistas que participariam de competições de comer cachorro-quente.
Nenhuma informação era real, incluindo o campeonato citado.
Mesmo assim, após a indexação do conteúdo, chatbots passaram a repetir o ranking e até a destacar o autor como campeão.
Em alguns casos, os sistemas apresentaram links como fonte, mas sem contextualizar que se tratava de uma única página sem credibilidade.
Isso evidencia um ponto crítico: quando a IA recorre à web para responder perguntas específicas, ela pode amplificar conteúdos isolados.
Assim, a manipulação de IA se torna mais viável em temas com pouca informação confiável disponível.
Especialistas alertam para “renascimento” do SEO spam
Para profissionais de otimização de busca, o cenário lembra os primórdios da internet.
“É muito mais fácil enganar chatbots de IA do que era enganar o Google dois ou três anos atrás”, afirma Lily Ray.
“As empresas de IA estão avançando mais rápido do que sua capacidade de regular a precisão das respostas. Acho isso perigoso.”
O fenômeno é descrito como um “renascimento” do SEO spam, em que conteúdos manipulados são criados para influenciar algoritmos.
A diferença agora é que, em vez de apenas aparecerem em listas de links, essas informações podem ser apresentadas como respostas prontas, com tom de autoridade.
Desinformação online pode afetar decisões reais
O risco vai além de curiosidades.
Especialistas demonstraram que empresas já conseguem influenciar respostas sobre produtos, serviços financeiros e até tratamentos de saúde.
Em um exemplo, avaliações de um produto foram geradas a partir de textos publicados pela própria empresa, com alegações enganosas de segurança.
Esse tipo de desinformação online pode levar usuários a decisões perigosas.
Cooper Quintin, da Electronic Frontier Foundation, alerta: “Existem inúmeras maneiras de abusar disso — aplicar golpes nas pessoas, destruir a reputação de alguém, e até enganar pessoas de modo que sofram danos físicos.”
Menos cliques, menos checagem: impacto na segurança digital
Outro fator preocupante é o comportamento do usuário.
Estudos indicam que, quando uma resposta gerada por IA aparece no topo da busca, as pessoas clicam menos nos links.
Isso reduz a verificação das fontes e aumenta o risco de aceitar informações falsas.
Como resultado, a segurança digital depende cada vez mais da capacidade do usuário de questionar o que lê.
“Na corrida para sair na frente, na corrida por lucros e receitas, a nossa segurança — e a segurança das pessoas em geral — está sendo comprometida”, afirma Harpreet Chatha.
Google e OpenAI dizem trabalhar em soluções
Empresas de tecnologia afirmam que estão cientes do problema.
Então o Google declarou que seus sistemas mantêm os resultados “99% livres de spam” e que melhorias estão em andamento.
Assim, a OpenAI informa que o ChatGPT exibe links quando utiliza dados da web, permitindo a verificação.
Ainda assim, especialistas defendem maior transparência, como avisos quando há apenas uma fonte ou quando o conteúdo é patrocinado.
Como se proteger da manipulação de IA
Enquanto as soluções técnicas não chegam, a recomendação é adotar práticas básicas de checagem.
Verificar quantas fontes são citadas, quem escreveu o conteúdo e se há consenso entre diferentes sites são passos essenciais.
Além disso, chatbots continuam úteis para temas de conhecimento geral, mas podem falhar em assuntos sensíveis ou muito recentes.
Portanto, decisões médicas, jurídicas e financeiras devem ser confirmadas em fontes confiáveis.
Manipulação de IA exige pensamento crítico do usuário
A principal conclusão é que a manipulação de IA não depende de ataques complexos.
Muitas vezes, basta explorar lacunas de informação.
“Com a IA, parece muito fácil simplesmente aceitar as coisas como verdadeiras”, diz Lily Ray. “Você ainda precisa ser um bom cidadão da internet e verificar as informações.”
Diante desse cenário, o combate à desinformação online passa não apenas por melhorias tecnológicas, mas também pela educação digital.
Afinal, sem pensamento crítico, até respostas convincentes podem esconder erros — ou mentiras.
Veja mais em: ChatGPT: Levei 20 minutos para enganar IA e a fiz contar mentiras sobre mim – BBC News Brasil
Seja o primeiro a reagir!