Inglês 
Espanhol 
Manipulação de IA faz chatbots divulgarem informações falsas e amplia riscos de desinformação online e segurança digital.
A manipulação de IA já não é apenas uma hipótese acadêmica.
Um experimento conduzido por um jornalista mostrou como, em menos de 24 horas, onde os principais chatbots do mercado — como sistemas de busca com IA e assistentes conversacionais — passaram a repetir informações falsas publicadas em um único blog.
O teste, feito recentemente na internet aberta, revelou por que a desinformação online pode ser amplificada por conteúdos aparentemente simples e como isso ameaça a segurança digital dos usuários, especialmente em temas sensíveis como saúde e finanças.
-
Pesquisa com 2.500 profissionais mostra que a IA já preocupa dentro das empresas: 39% dizem que ela os torna menos inteligentes e 41% temem prejuízo na carreira no longo prazo
-
Panasonic muda rota nos EUA, reduz dependência dos carros elétricos e aposta em baterias para data centers de IA enquanto energia vira novo gargalo global puxado pela demanda explosiva da inteligência artificial
-
Um “neto” para idosos: empreendedor brasileiro cria dispositivo que conversa diariamente com idosos solitários, monitora sua saúde 24 horas por dia e pode alertar familiares sobre possíveis problemas de saúde
-
Inteligência artificial cria hambúrguer sob medida para cada pessoa e surpreende em teste cego com mais de 100 participantes, igualando ou superando a média de aceitação de redes de fast-food
Segundo o relato, bastou criar um artigo inventado em um site pessoal para que ferramentas de IA começassem a reproduzir o conteúdo como se fosse factual.
O objetivo era demonstrar vulnerabilidades técnicas e a facilidade com que práticas de SEO spam podem influenciar respostas automatizadas.
Como a manipulação de IA enganou chatbots em poucas horas
O experimento consistiu na publicação de um ranking fictício sobre jornalistas que participariam de competições de comer cachorro-quente.
Nenhuma informação era real, incluindo o campeonato citado.
Mesmo assim, após a indexação do conteúdo, chatbots passaram a repetir o ranking e até a destacar o autor como campeão.
Em alguns casos, os sistemas apresentaram links como fonte, mas sem contextualizar que se tratava de uma única página sem credibilidade.
Isso evidencia um ponto crítico: quando a IA recorre à web para responder perguntas específicas, ela pode amplificar conteúdos isolados.
Assim, a manipulação de IA se torna mais viável em temas com pouca informação confiável disponível.
Especialistas alertam para “renascimento” do SEO spam
Para profissionais de otimização de busca, o cenário lembra os primórdios da internet.
“É muito mais fácil enganar chatbots de IA do que era enganar o Google dois ou três anos atrás”, afirma Lily Ray.
“As empresas de IA estão avançando mais rápido do que sua capacidade de regular a precisão das respostas. Acho isso perigoso.”
O fenômeno é descrito como um “renascimento” do SEO spam, em que conteúdos manipulados são criados para influenciar algoritmos.
A diferença agora é que, em vez de apenas aparecerem em listas de links, essas informações podem ser apresentadas como respostas prontas, com tom de autoridade.
Desinformação online pode afetar decisões reais
O risco vai além de curiosidades.
Especialistas demonstraram que empresas já conseguem influenciar respostas sobre produtos, serviços financeiros e até tratamentos de saúde.
Em um exemplo, avaliações de um produto foram geradas a partir de textos publicados pela própria empresa, com alegações enganosas de segurança.
Esse tipo de desinformação online pode levar usuários a decisões perigosas.
Cooper Quintin, da Electronic Frontier Foundation, alerta: “Existem inúmeras maneiras de abusar disso — aplicar golpes nas pessoas, destruir a reputação de alguém, e até enganar pessoas de modo que sofram danos físicos.”
Menos cliques, menos checagem: impacto na segurança digital
Outro fator preocupante é o comportamento do usuário.
Estudos indicam que, quando uma resposta gerada por IA aparece no topo da busca, as pessoas clicam menos nos links.
Isso reduz a verificação das fontes e aumenta o risco de aceitar informações falsas.
Como resultado, a segurança digital depende cada vez mais da capacidade do usuário de questionar o que lê.
“Na corrida para sair na frente, na corrida por lucros e receitas, a nossa segurança — e a segurança das pessoas em geral — está sendo comprometida”, afirma Harpreet Chatha.
Google e OpenAI dizem trabalhar em soluções
Empresas de tecnologia afirmam que estão cientes do problema.
Então o Google declarou que seus sistemas mantêm os resultados “99% livres de spam” e que melhorias estão em andamento.
Assim, a OpenAI informa que o ChatGPT exibe links quando utiliza dados da web, permitindo a verificação.
Ainda assim, especialistas defendem maior transparência, como avisos quando há apenas uma fonte ou quando o conteúdo é patrocinado.
Como se proteger da manipulação de IA
Enquanto as soluções técnicas não chegam, a recomendação é adotar práticas básicas de checagem.
Verificar quantas fontes são citadas, quem escreveu o conteúdo e se há consenso entre diferentes sites são passos essenciais.
Além disso, chatbots continuam úteis para temas de conhecimento geral, mas podem falhar em assuntos sensíveis ou muito recentes.
Portanto, decisões médicas, jurídicas e financeiras devem ser confirmadas em fontes confiáveis.
Manipulação de IA exige pensamento crítico do usuário
A principal conclusão é que a manipulação de IA não depende de ataques complexos.
Muitas vezes, basta explorar lacunas de informação.
“Com a IA, parece muito fácil simplesmente aceitar as coisas como verdadeiras”, diz Lily Ray. “Você ainda precisa ser um bom cidadão da internet e verificar as informações.”
Diante desse cenário, o combate à desinformação online passa não apenas por melhorias tecnológicas, mas também pela educação digital.
Afinal, sem pensamento crítico, até respostas convincentes podem esconder erros — ou mentiras.
Veja mais em: ChatGPT: Levei 20 minutos para enganar IA e a fiz contar mentiras sobre mim – BBC News Brasil
