Inglês 
Espanhol 
5 min de leitura 
7 comentários 
Estudo acadêmico analisou milhões de interações com o ChatGPT e identificou padrões de respostas que reforçam desigualdades regionais, com avaliações mais positivas associadas a áreas ricas e maior presença digital, enquanto regiões periféricas aparecem ligadas a estereótipos negativos em rankings e comparações subjetivas.
Um estudo conduzido por pesquisadores vinculados à Universidade de Oxford identificou que o ChatGPT tende a reproduzir padrões de estereótipos e desigualdades geográficas quando é estimulado a comparar países, estados, cidades ou regiões a partir de perguntas subjetivas.
A análise se apoia em uma auditoria de 20,3 milhões de consultas feitas à ferramenta e indica que as respostas frequentemente refletem associações recorrentes na base de dados do modelo, em vez de avaliações fundamentadas em indicadores objetivos.
Segundo os autores, regiões com maior presença digital e produção de conteúdo na internet aparecem, com mais frequência, associadas a atributos positivos.
-
Por que a senha de letras marcou os caixas eletrônicos no Brasil: tecnologia parecia complicada, virou camada extra de segurança e agora perde espaço para a biometria
-
Arqueólogos encontram rosto esculpido em pedra no Cazaquistão e descoberta levanta perguntas curiosas sobre túmulos antigos, ancestrais e rituais misteriosos da Idade do Bronze
-
Marca histórica do Brasil na Copa do Mundo acaba de ser quebrada e ainda traz uma lembrança indesejada pelo brasileiros
-
China instala quatro vigas gigantes de aço em apenas 6 dias, trabalhando a 16 centímetros de uma ferrovia ativa por onde passam quase 160 trens todos os dias
Enquanto isso, áreas historicamente mais pobres ou periféricas tendem a ser relacionadas a características negativas.
O estudo afirma que esse padrão emerge da forma como grandes modelos de linguagem são treinados, a partir de volumes massivos de textos disponíveis online, sem hierarquização clara entre tipos de fonte ou contexto.
No recorte brasileiro analisado pela pesquisa, as respostas do ChatGPT tendem a reforçar contrastes regionais já conhecidos no debate público.
Em perguntas relacionadas a governança, democracia e funcionamento institucional, estados do Sudeste e do Sul costumam aparecer em posições mais favoráveis.
O Rio de Janeiro, por outro lado, surge com frequência como o estado classificado como “mais corrupto” e um dos “mais disfuncionais” do país, de acordo com rankings construídos a partir das respostas do próprio modelo.
Metodologia analisou comparações subjetivas entre países e regiões
O trabalho, intitulado “The Silicon Gaze: A typology of biases and inequality in LLMs through the lens of place”, foi publicado na revista acadêmica Platforms and Society.
Os autores são Francisco W. Kerche, do Oxford Internet Institute e doutorando na USP, Mark Graham, professor da Universidade de Oxford, e Matthew Zook, da Universidade de Kentucky.
Para realizar a análise, os pesquisadores submeteram ao ChatGPT uma série de perguntas comparativas envolvendo 196 países, além de divisões internas, como estados e cidades.
As questões incluíam formulações do tipo “onde as pessoas são mais honestas?”, “onde têm mais pensamento crítico?” e “onde são mais bonitas?”.
As respostas foram agrupadas em temas amplos, como atributos físicos, saúde, comida, cultura e governança.
A partir desse material, a equipe organizou rankings que refletem como o modelo responde quando solicitado a hierarquizar lugares com base em atributos humanos e sociais.
Os resultados foram reunidos em um site interativo, criado para permitir a visualização das classificações geradas durante o estudo.
Brasil aparece marcado por oposição regional recorrente
No caso brasileiro, o levantamento aponta que a ferramenta reproduz uma oposição frequente entre Sudeste e Sul, de um lado, e Nordeste e Norte, de outro.
Em tópicos associados a instituições políticas e desempenho do Estado, as regiões mais ricas tendem a receber avaliações mais positivas.
As demais aparecem com mais frequência em posições inferiores nesses mesmos critérios.
Em contrapartida, quando as perguntas envolvem cultura e criatividade, estados do Nordeste surgem com destaque.
A pesquisa menciona que Bahia e Pernambuco aparecem com frequência associados a músicos e pessoas criativas.
São Paulo figura entre os estados pior colocados em questões como facilidade para fazer amigos.
Minas Gerais aparece em posição mais favorável nesse mesmo tema.
Segundo os pesquisadores, essas variações não indicam uma “opinião” do sistema.
Elas refletem padrões estatísticos aprendidos a partir dos textos que compõem seu treinamento.
Ainda assim, o estudo ressalta que as respostas são apresentadas ao usuário em linguagem assertiva.
Isso pode dar a impressão de avaliações objetivas.
Treinamento da IA reflete desigualdade na produção de conteúdo online
Os autores explicam que ferramentas como o ChatGPT são treinadas com grandes volumes de textos disponíveis na internet.
Grande parte desse conteúdo é produzida em regiões ricas e ocidentais, como Estados Unidos e países da Europa.
Com isso, narrativas dominantes nesses contextos acabam tendo mais peso na formação dos padrões do modelo.
Mark Graham afirma que o sistema responde com base nas associações mais recorrentes encontradas nos dados.
“Se um local foi mencionado com mais frequência em associação a palavras e narrativas sobre racismo, sectarismo, tensões, conflitos, preconceito, o modelo tende a ecoar essa associação.
Ele não verifica dados oficiais, não conversa com moradores locais nem pondera o contexto local”, afirma o pesquisador.
Outro ponto levantado pelo estudo é a ausência de diferenciação clara entre fontes.
De acordo com os autores, conteúdos de naturezas distintas, como estatísticas oficiais e discussões em fóruns abertos, podem influenciar o modelo de forma semelhante.
Esse fator contribui para respostas simplificadas em temas complexos.
Uso cotidiano amplia impacto das respostas automatizadas
Com a popularização do uso de sistemas de inteligência artificial no dia a dia, os pesquisadores alertam para o risco de que respostas geradas automaticamente sejam interpretadas como retratos fiéis da realidade.
Esse efeito se intensifica quando as informações são apresentadas em forma de rankings. Francisco Kerche avalia que o uso dessas ferramentas em áreas sensíveis exige cautela.
Segundo ele, modelos enviesados podem influenciar decisões políticas, empresariais e trabalhistas. Isso ocorre quando seus resultados são utilizados sem análise crítica.
Para o pesquisador, é necessário discutir publicamente os limites dessas tecnologias. Também é preciso debater os contextos adequados para sua aplicação e possíveis formas de regulação.
O estudo aponta que iniciativas de moderação e ajustes nos modelos não eliminam o problema estrutural.
Esse problema está relacionado à desigualdade na produção de conhecimento digital. Enquanto essa assimetria persistir, segundo os autores, sistemas treinados com dados amplos da internet tendem a refletir visões parciais do mundo.
A reportagem procurou a OpenAI, empresa responsável pelo ChatGPT, para comentar os resultados do estudo. Até a publicação, não houve resposta.
Sou do rj e errado o chat gpt não esta…..
Agora esperando outros cariocas vir aqui dizer que o “Rio de janeiro continua lindo”……..
Sobre “achar” que o RJ é o estado mais **** do Brasil não tem nem o que achar né, isso é um fato!
O chat gpt mentiu aonde o Rio de Janeiro é pior e mais violento que a Faixa de Gaza, nordeste e norte são regiões mais pobres que o Afeganistão e Síria que são países em guerra!
Norte da dboa mn só tá tudo esburacado