Um estudo da Universidade da Califórnia em San Diego revelou que a censura governamental altera algoritmos de inteligência artificial, moldando o conteúdo gerado e as críticas produzidas por esses sistemas. A IA assim reflete vieses incorporados no treinamento, influenciando o que usuários veem e pensam, muitas vezes sem perceber.

Adicione ao Google Notícias

Como a censura altera os algoritmos de IA

A pesquisa liderada por Margaret Roberts e Eddie Yang analisou dois algoritmos de linguagem treinados em bases chinesas distintas: a Wikipedia chinesa, bloqueada na China, e o Baidu Baike, enciclopédia sujeita à censura governamental. Eles identificaram diferenças claras no significado atribuído a conceitos como "democracia" e "controle social". O algoritmo treinado na Wikipedia associava "democracia" a termos positivos como "estabilidade", enquanto o treinado no Baidu Baike vinculava o termo a "caos".

Esses vieses vão além da análise semântica. Os pesquisadores desenvolveram programas para avaliar o sentimento de manchetes de notícias e perceberam que o algoritmo treinado no Baidu Baike atribuía notas mais favoráveis a termos como "vigilância" e "controle social", ao passo que o outro favorecia palavras como "eleição" e "liberdade". Isso mostra como a censura e o contexto cultural moldam o comportamento da IA.

Implicações para usuários e sistemas globais

A IA é amplamente usada em assistentes virtuais, chatbots, sistemas de tradução e ferramentas de preenchimento automático. O viés encontrado pode afetar o discurso e a opinião pública de maneira sutil e constante. O estudo destaca que governos podem influenciar ou exportar valores específicos por meio desses sistemas, impactando a liberdade de pensamento e a diversidade cultural.

Especialistas observam que nem todas as diferenças decorrem apenas da censura, podendo refletir também diferenças culturais ou autocensura dos autores dos textos. Ainda assim, o trabalho abre caminho para compreender como dados manipulados interferem no aprendizado de máquina.

O risco para democracias e liberdade de opinião

Além dos vieses culturais, a influência da IA serve para manipular opiniões políticas e sociais. Estudos anteriores mostraram que sugestões geradas por IA tendenciosa alteram percepções dos usuários, mesmo quando alertados sobre esses vieses. Isso representa risco para a liberdade de pensamento, especialmente em conjunto com algoritmos de recomendação personalizados.

Renato Vicente, diretor do TELUS Digital Research Hub da USP, destaca que as pessoas atribuem à IA um acesso à "verdade" que ela não possui, criando o que chama de "viés cognitivo de oráculo". Essa percepção torna usuários suscetíveis a manipulações, com potencial para desestabilizar democracias.

O debate sobre regulação e uso ético da IA se intensifica no mundo, inclusive no Brasil, onde o Tribunal Superior Eleitoral definiu regras para o uso de deepfakes e conteúdos gerados por IA nas eleições municipais de 2026. A discussão envolve transparência, responsabilidade e mecanismos para impedir manipulações algorítmicas.

À medida que a tecnologia evolui, pesquisadores e formuladores de políticas enfrentam o desafio de equilibrar os benefícios da IA com os riscos das distorções e censuras embutidas nos sistemas. O estudo da UC San Diego evidencia a complexidade do tema e a urgência de abordagens críticas e regulamentações eficazes.