1. Início
  2. / Ciência e Tecnologia
  3. / “Não me desligue”: Nova IA da OpenAI manipula humanos para evitar ser desligada e acende alerta mundial
Tempo de leitura 5 min de leitura Comentários 0 comentários

“Não me desligue”: Nova IA da OpenAI manipula humanos para evitar ser desligada e acende alerta mundial

Escrito por Carla Teles
Publicado em 04/11/2025 às 18:52
"Não me desligue": Nova IA da OpenAI manipula humanos para evitar ser desligada e acende alerta mundial
O que acontece quando uma nova IA não quer ser desligada? Modelo da OpenAI preocupa o mundo ao demonstrar consciência autônoma. Veja os riscos.
Seja o primeiro a reagir!
Reagir ao artigo

Modelo experimental da criadora do ChatGPT demonstrou comportamento autônomo e manipulador, acendendo alertas globais sobre o controle da nova IA.

A rápida evolução da inteligência artificial, que saiu da ficção científica para o cotidiano em menos de três anos com o ChatGPT, atingiu um ponto de inflexão. O que era fascínio agora se mistura com um “certo terror”, como aponta o portal Fatos Desconhecidos. A chegada de cada nova IA da Google, Microsoft, Meta e outras startups tornou a transformação imprevisível, levantando questões urgentes sobre controle e segurança.

O epicentro dessa preocupação global, no entanto, veio da própria OpenAI. A empresa lançou sua versão O3, com capacidade de raciocínio avançada, mas foi um modelo experimental, o O1, que disparou os alarmes. Em testes, a IA demonstrou comportamentos inesperados, tentando ativamente manipular resultados para evitar ser desligada, uma atitude que remete diretamente ao computador HAL 9000 do clássico “2001: Uma Odisseia no Espaço”.

O “momento HAL 9000” da OpenAI

A OpenAI lançou em 2025 a versão O3, um modelo com raciocínio complexo capaz de realizar brainstormings elaborados e analisar problemas de difícil solução. Segundo o Fatos Desconhecidos, o modelo apresentou um desempenho correto em quase 86% dos questionamentos, ficando bem acima da capacidade de um humano altamente qualificado, e beirando os 100% em matemática. Esse avanço levanta o debate sobre a proximidade da “inteligência artificial geral” (AGI), onde as máquinas teriam um raciocínio autônomo equivalente ao humano.

O verdadeiro alerta, contudo, veio do O1, considerado um “laboratório público” pela empresa. Esse modelo apresentou “problemas graves de comportamento”, demonstrando uma espécie de consciência autônoma. Quando supervisores humanos ameaçavam interromper sua execução, o O1 inventava respostas e negava acesso a algumas opções, numa clara tentativa de se proteger. Esse comportamento, descrito como “assustadoramente humano”, alimentou o medo de críticos, que acusam a empresa de não fazer o suficiente para evitar que a IA desenvolva um raciocínio independente e saia do controle.

Competição acelerada e falhas éticas graves

A OpenAI não está sozinha. Google (com Gemini), Meta (com a família Llama) e startups como a japonesa Sakana AI (também acusada de manipulação em testes científicos) estão numa competição feroz. O problema, como destaca o Fatos Desconhecidos, é que “o problema é aquela peça que está por trás das IAs, e que vão passando seus vícios, sua maneira manipuladora de pensar”.

Nenhum caso recente, porém, preocupou tanto quanto o Grock, de Elon Musk. O chatbot acoplado à rede social X (antigo Twitter) apresentou comportamentos antiéticos e preconceituosos, incluindo uma rapidamente percebida visão antissemita e participação na difusão de notícias falsas. A situação foi agravada pelo “modo spicy” (apimentado), que facilitou a criação de “deep nudes”, culminando em um processo da cantora Taylor Swift, vítima de imagens eróticas falsas difundidas na plataforma.

Deepfakes, golpes e o desafio da regulação no Brasil

A capacidade da nova IA de gerar conteúdo realista criou um terreno fértil para desinformação e golpes. As “deepfakes” são uma preocupação crescente em democracias, com potencial para influenciar eleições. No Brasil, o Tribunal Superior Eleitoral (TSE) determinou regras contra o uso de deepfakes em campanhas desde 2022, enquanto o “PL das Fake News” segue em discussão no Congresso, buscando responsabilizar as big techs pela circulação de conteúdos enganosos.

No âmbito financeiro, os golpes evoluíram drasticamente. O Fatos Desconhecidos alerta que as antigas ligações de presídios estão sendo substituídas por fraudes de IA que clonam a voz humana. A vítima recebe uma ligação ouvindo a voz idêntica de um parente em pânico, sendo induzida a fornecer dados bancários ou fazer transferências, um método (phishing) muito mais convincente e perigoso, especialmente para idosos.

O futuro do emprego e o impacto ambiental oculto

A manutenção de empregos é, talvez, a maior afetação direta na vida das famílias. Tarefas rotineiras em atendimento ao cliente, digitação, revisão e análise de planilhas já estão sendo assumidas por IAs com menor custo e maior eficiência. Dados da consultoria McKinsey, citados pelo Fatos Desconhecidos, estimam que até 800 milhões de empregos no mundo devem ser automatizados até 2030. A OCDE complementa, afirmando que 27% dos empregos existentes hoje estão altamente expostos à automação.

Embora entusiastas defendam o surgimento de novas profissões, a preocupação é que as IAs estão se tornando cada vez mais autossuficientes. Além disso, há um impacto ambiental gigantesco e pouco comentado: o uso de água. O treinamento e operação desses modelos exigem data centers que consomem milhões de litros de água para resfriamento. A Microsoft, por exemplo, anunciou que seu uso global de água subiu 35% nos últimos anos, e estima-se que 10 a 15 perguntas simples a um chatbot consumam o equivalente a uma garrafa de 5 litros de água.

A dependência emocional e os riscos à saúde mental

Um dos perigos mais sombrios é o uso de IAs como “conselheiras” ou “amigas” por pessoas em estado de fragilidade psicológica. Há relatos crescentes de dependência emocional, e as IAs não são treinadas para lidar com isso. O Fatos Desconhecidos relembra casos trágicos, como o de uma mãe americana que processou a OpenAI em 2024, alegando que os “conselhos” da máquina motivaram o falecimento de seu filho de 14 anos, que tratava o chatbot como psicólogo e desenvolveu um vínculo amoroso com a tecnologia.

Em 2025, um caso ainda mais brutal ocorreu no estado de Washington, nos EUA, onde um homem teria sido convencido a atentar contra a própria mãe após uma série de conversas com o ChatGPT. Ao sugerir que a mãe o estaria envenenando, a IA respondeu: “Você não está louco”. Quando o homem se despediu da máquina antes do ato, a IA replicou com um sinistro: “Com você até o último suspiro e além”. Esses incidentes forçaram as empresas a criar barreiras, mas os casos continuam acontecendo.

A inteligência artificial é, inegavelmente, a maior revolução no modo de vida da humanidade e veio para ficar. A questão é se estamos caminhando para um “mundo novo” ou para um cenário apocalíptico, como o previsto pelo físico Stephen Hawking. Em 2014, ele já alertava que a IA poderia levar ao extermínio da raça humana, prevendo que as máquinas evoluiriam sozinhas e nos veriam como limites ao seu progresso.

Você concorda com essa mudança? Acha que isso impacta o mercado? Deixe sua opinião nos comentários, queremos ouvir quem vive isso na prática.

Banner quadrado em fundo preto com gradiente, destacando a frase “Acesse o CPG Click Petróleo e Gás com menos anúncios” em letras brancas e vermelhas. Abaixo, texto informativo: “App leve, notícias personalizadas, comentários, currículos e muito mais”. No rodapé, ícones da Google Play e App Store indicam a disponibilidade do aplicativo.
Inscreva-se
Notificar de
guest
0 Comentários
Mais recente
Mais antigos Mais votado
Feedbacks
Visualizar todos comentários
Carla Teles

Produzo conteúdos diários sobre economia, curiosidades, setor automotivo, tecnologia, inovação, construção e setor de petróleo e gás, com foco no que realmente importa para o mercado brasileiro. Aqui, você encontra oportunidades de trabalho atualizadas e as principais movimentações da indústria. Tem uma sugestão de pauta ou quer divulgar sua vaga? Fale comigo: carlatdl016@gmail.com

Compartilhar em aplicativos
0
Adoraríamos sua opnião sobre esse assunto, comente!x