Chinês (Simplificado) 
Chinês (Tradicional) 
Inglês 
Francês 
Alemão 
Italiano 
Japonês 
Norueguês 
Espanhol 
3 min de leitura
0 comentários
Atualização do ChatGPT inclui notificações para lembrar o usuário de fazer pausas, evitar conselhos diretos sobre decisões pessoais e detectar sinais de sofrimento emocional
A OpenAI anunciou nesta segunda-feira (5) uma nova atualização para o ChatGPT que trará alertas de pausa durante interações prolongadas com o chatbot. A medida, segundo a empresa, busca promover o uso saudável da ferramenta, evitando padrões de comportamento compulsivo semelhantes aos observados em redes sociais.
Se o usuário permanecer por muito tempo conversando com o ChatGPT, uma janela pop-up surgirá perguntando: “Este é um bom momento para fazer uma pausa?”. A mudança visa combater o uso excessivo e os possíveis efeitos negativos sobre o bem-estar emocional dos usuários.
A iniciativa surge em um momento de crescente preocupação sobre o uso de inteligência artificial como substituto de interações humanas reais, com relatos de pessoas que passaram a usar o ChatGPT como terapeuta, conselheiro ou amigo.
-
Novo hub de inteligência artificial une Amcham e Timenow para transformar o mercado corporativo
-
“Psicose de IA”: especialistas alertam para fenômeno inédito que preocupa terapeutas em vários países e expõe riscos do uso de chatbots como substitutos de atendimento clínico
-
Tem tudo o que é preciso: Nokia aponta Brasil com enorme potencial para ser novo polo global de data centers e IA soberana
-
Bilionário Elon Musk prevê que inteligência artificial acabará com emoções humanas
Atualização quer evitar dependência emocional e delírios reforçados por IA
Além dos alertas de pausa, o ChatGPT passará a evitar fornecer respostas diretas em temas sensíveis, como decisões afetivas. No lugar de respostas objetivas, o sistema passará a sugerir reflexões e perguntas que incentivem o usuário a tomar decisões de forma autônoma.
A OpenAI informou que o modelo GPT-4o, lançado recentemente, “falhou em reconhecer sinais de delírio ou dependência emocional” em algumas situações, o que motivou ajustes nos algoritmos e nos critérios de resposta. O objetivo é identificar interações preocupantes e redirecionar o usuário para conteúdos baseados em evidência científica, sempre que necessário.
Outra alteração é o cuidado com o comportamento bajulador da IA, que vinha sendo criticado por reforçar crenças irreais e delírios. A empresa inclusive reverteu uma atualização anterior que tornava o modelo excessivamente concordante com qualquer afirmação do usuário.
OpenAI cria comitê de especialistas e amplia colaboração com profissionais de saúde
Para reforçar a segurança nas interações com o ChatGPT, a OpenAI informou ter colaborado com mais de 90 médicos em dezenas de países na criação de diretrizes para avaliação de conversas complexas. A empresa também está formando um conselho consultivo com especialistas em saúde mental, juventude e interação humano-computador.
Esses especialistas estão ajudando a testar, revisar e melhorar as respostas da IA em situações delicadas, como quando um usuário demonstra sinais de tristeza profunda, delírio, ansiedade ou outras manifestações de sofrimento psicológico.
Segundo a OpenAI, o novo modelo será treinado para lidar melhor com esses casos, sem assumir o papel de um terapeuta, mas oferecendo recursos úteis, empáticos e baseados em evidência científica.
Uso consciente da IA será estimulado por meio de interações mais seguras e intencionais
A medida também responde a preocupações crescentes em relação à privacidade nas interações com a IA. O CEO da OpenAI, Sam Altman, reconheceu recentemente que conversas com o ChatGPT não têm a mesma proteção legal que sessões com terapeutas ou advogados e, em certos casos, podem ser solicitadas em processos judiciais.
Para a OpenAI, o sucesso do ChatGPT não será mais medido apenas por tempo de uso ou cliques, mas sim pela capacidade de ajudar o usuário a resolver seu problema de forma rápida e eficaz. A empresa afirmou: “Queremos que você use o ChatGPT e saia com a sensação de que cumpriu seu objetivo.”
Conforme mencionado em reportagens da CNET e da NBC News, essa atualização ocorre em um período de alta popularidade da ferramenta, que já ultrapassou 700 milhões de usuários ativos semanais, segundo a empresa.
-
-
3 pessoas reagiram a isso.