Inglês 
Espanhol 
IA confiável ganhou uma nova abordagem inspirada no desenvolvimento do cérebro, criada por pesquisadores do Korea Advanced Institute of Science and Technology, que treina redes neurais com ruído aleatório antes dos dados reais para reduzir excesso de confiança e alinhar melhor certeza e precisão.
Pesquisadores do Korea Advanced Institute of Science and Technology apresentaram uma nova estratégia de treinamento para tornar a IA confiável ao reduzir o excesso de confiança em previsões erradas. A abordagem, publicada na Nature Machine Intelligence, usa uma etapa inicial com ruído aleatório antes do aprendizado com dados reais.
A proposta atua em um problema recorrente em sistemas modernos de inteligência artificial. Muitos modelos conseguem indicar uma resposta e também atribuir um grau de confiança a ela, mas esse índice nem sempre corresponde à chance real de acerto.
Esse descompasso pode levar sistemas de IA a apresentar respostas incorretas com segurança elevada. Em aplicações de alto risco, como ferramentas de diagnóstico médico ou veículos autônomos, uma previsão errada com confiança exagerada pode gerar consequências graves.
-
Inventor indiano de 58 anos criou uma máquina agrícola sem volante, guiada por alavancas como bois de carroça, que gira quase 360 graus, faz tarefas de trator e gasta 5 litros de diesel em 8 horas, mostrando como uma ideia simples pode desafiar máquinas caras no campo
-
Avanço na ciência: Bactérias encontradas em uma laguna do Rio de Janeiro passam a orientar pesquisas sobre Marte após cientistas identificarem características semelhantes às de ambientes extremos, ampliando as chances de compreender como a vida poderia existir fora da Terra
-
Um mecânico de motos que largou a escola aos 15 anos juntou um motor e pedaços de sucata numa oficina e criou uma máquina agrícola que ara um campo inteiro com apenas 1 litro de diesel, a engenhoca rendeu a ele um prêmio das mãos do presidente da Índia
-
Polilaminina brasileira chega a 100 pacientes com lesão medular pelo uso compassivo, mostra evolução nos casos reavaliados após 6 meses e coloca a ciência da UFRJ no centro de uma corrida experimental que mistura esperança, cautela médica e a pergunta que milhares de famílias fazem: até onde a regeneração pode chegar?
Treinamento começa com ruído aleatório
A técnica criada por Jeonghwan Cheon e Se-Bum Paik inclui uma breve fase de aquecimento antes do treinamento principal. Nessa etapa, a rede neural recebe dados totalmente aleatórios e saídas arbitrárias, sem relação significativa entre entrada e resposta.
Depois desse aquecimento, o modelo passa ao treinamento comum com bases de dados específicas da tarefa que deve aprender. A lógica é permitir que a rede desenvolva uma estimativa mais realista de incerteza antes de lidar com padrões reais.
A estratégia foi descrita como inspirada no neurodesenvolvimento. Ela busca alinhar a confiança preditiva com a precisão da resposta, conceito conhecido como calibração de incerteza.
IA confiável depende de incerteza bem calibrada
A IA confiável exige que a confiança indicada pelo sistema acompanhe a probabilidade real de acerto. Quando essa relação falha, o modelo pode parecer seguro mesmo diante de dados desconhecidos, ambíguos ou fora do padrão de treinamento.
Os pesquisadores apontaram que métodos amplamente usados de inicialização em aprendizado profundo podem estar entre as fontes primárias do excesso de confiança. A nova etapa de aquecimento procura corrigir esse problema sem exigir pré-processamento ou pós-processamento adicional.
Nos testes, os modelos treinados com essa fase inicial mostraram menor tendência a respostas superconfiantes. Eles produziram índices de confiança mais baixos quando erravam, mas mantiveram níveis adequados de confiança quando as respostas estavam corretas.
Modelo reconhece melhor entradas desconhecidas
O método também melhorou a capacidade das redes neurais de identificar entradas desconhecidas. Esse ponto é importante porque sistemas de IA frequentemente encontram situações diferentes das amostras usadas no treinamento.
A calibração funcionou tanto em contextos dentro da distribuição esperada quanto em situações fora dela. Isso significa que o modelo teve melhor desempenho ao lidar com dados semelhantes aos conhecidos e também com entradas menos familiares.
A vantagem prática está na simplicidade da aplicação. A abordagem não depende de engenharia complexa nem de etapas extras depois do treinamento, apenas da inclusão de uma curta sessão prévia com ruído aleatório e rótulos aleatórios.
Aplicações podem envolver áreas de alto risco
A técnica ainda pode ser refinada e aplicada a uma variedade maior de modelos de inteligência artificial. Essa ampliação permitirá avaliar seu potencial em mais cenários reais e em sistemas com diferentes níveis de complexidade.
O trabalho pode contribuir para o desenvolvimento de sistemas de IA confiável mais seguros e capazes de estimar melhor a probabilidade de acerto de suas previsões. Esse avanço é especialmente relevante em ambientes nos quais decisões erradas podem provocar impactos sérios.
Ferramentas clínicas, carros autônomos e outras aplicações críticas dependem de modelos que não apenas acertem, mas também saibam quando podem estar errados. A nova abordagem indica que ensinar a IA a lidar com incerteza antes dos dados reais pode ser um caminho para reduzir excesso de confiança e ampliar a IA confiável.
Clique aqui para acessar o estudo.
