Inglês 
Espanhol 
4 min de leitura 
0 comentários 
IA confiável ganhou uma nova abordagem inspirada no desenvolvimento do cérebro, criada por pesquisadores do Korea Advanced Institute of Science and Technology, que treina redes neurais com ruído aleatório antes dos dados reais para reduzir excesso de confiança e alinhar melhor certeza e precisão.
Pesquisadores do Korea Advanced Institute of Science and Technology apresentaram uma nova estratégia de treinamento para tornar a IA confiável ao reduzir o excesso de confiança em previsões erradas. A abordagem, publicada na Nature Machine Intelligence, usa uma etapa inicial com ruído aleatório antes do aprendizado com dados reais.
A proposta atua em um problema recorrente em sistemas modernos de inteligência artificial. Muitos modelos conseguem indicar uma resposta e também atribuir um grau de confiança a ela, mas esse índice nem sempre corresponde à chance real de acerto.
Esse descompasso pode levar sistemas de IA a apresentar respostas incorretas com segurança elevada. Em aplicações de alto risco, como ferramentas de diagnóstico médico ou veículos autônomos, uma previsão errada com confiança exagerada pode gerar consequências graves.
-
EUA preparam cápsula do tempo de 408 kg com DNA sintético, tesouros nacionais e mensagem secreta para revelar aos americanos de 2276 como era viver no país em 2026
-
Com apenas 15 anos, o prodígio Laurent Simons finalizou um doutorado em física quântica, domina equações usadas pelas maiores mentes, resolve problemas avançados e surpreende o mundo
-
O primeiro trilionário da história, Elon Musk, abre o bolso e paga o equivalente a R$ 306 bilhões, ou US$ 60 bilhões, pela startup de programação com inteligência artificial Cursor, em mais uma aposta na IA feita por meio da SpaceX, sua empresa de foguetes
-
O futuro dos computadores pode mudar antes do esperado: Amazon aposta em computação quântica comercial em até sete anos, enquanto qubits, chip Ocelot, IA e simulações científicas entram no centro da nova corrida das big techs
Treinamento começa com ruído aleatório
A técnica criada por Jeonghwan Cheon e Se-Bum Paik inclui uma breve fase de aquecimento antes do treinamento principal. Nessa etapa, a rede neural recebe dados totalmente aleatórios e saídas arbitrárias, sem relação significativa entre entrada e resposta.
Depois desse aquecimento, o modelo passa ao treinamento comum com bases de dados específicas da tarefa que deve aprender. A lógica é permitir que a rede desenvolva uma estimativa mais realista de incerteza antes de lidar com padrões reais.
A estratégia foi descrita como inspirada no neurodesenvolvimento. Ela busca alinhar a confiança preditiva com a precisão da resposta, conceito conhecido como calibração de incerteza.
IA confiável depende de incerteza bem calibrada
A IA confiável exige que a confiança indicada pelo sistema acompanhe a probabilidade real de acerto. Quando essa relação falha, o modelo pode parecer seguro mesmo diante de dados desconhecidos, ambíguos ou fora do padrão de treinamento.
Os pesquisadores apontaram que métodos amplamente usados de inicialização em aprendizado profundo podem estar entre as fontes primárias do excesso de confiança. A nova etapa de aquecimento procura corrigir esse problema sem exigir pré-processamento ou pós-processamento adicional.
Nos testes, os modelos treinados com essa fase inicial mostraram menor tendência a respostas superconfiantes. Eles produziram índices de confiança mais baixos quando erravam, mas mantiveram níveis adequados de confiança quando as respostas estavam corretas.
Modelo reconhece melhor entradas desconhecidas
O método também melhorou a capacidade das redes neurais de identificar entradas desconhecidas. Esse ponto é importante porque sistemas de IA frequentemente encontram situações diferentes das amostras usadas no treinamento.
A calibração funcionou tanto em contextos dentro da distribuição esperada quanto em situações fora dela. Isso significa que o modelo teve melhor desempenho ao lidar com dados semelhantes aos conhecidos e também com entradas menos familiares.
A vantagem prática está na simplicidade da aplicação. A abordagem não depende de engenharia complexa nem de etapas extras depois do treinamento, apenas da inclusão de uma curta sessão prévia com ruído aleatório e rótulos aleatórios.
Aplicações podem envolver áreas de alto risco
A técnica ainda pode ser refinada e aplicada a uma variedade maior de modelos de inteligência artificial. Essa ampliação permitirá avaliar seu potencial em mais cenários reais e em sistemas com diferentes níveis de complexidade.
O trabalho pode contribuir para o desenvolvimento de sistemas de IA confiável mais seguros e capazes de estimar melhor a probabilidade de acerto de suas previsões. Esse avanço é especialmente relevante em ambientes nos quais decisões erradas podem provocar impactos sérios.
Ferramentas clínicas, carros autônomos e outras aplicações críticas dependem de modelos que não apenas acertem, mas também saibam quando podem estar errados. A nova abordagem indica que ensinar a IA a lidar com incerteza antes dos dados reais pode ser um caminho para reduzir excesso de confiança e ampliar a IA confiável.
Clique aqui para acessar o estudo.
Seja o primeiro a reagir!