Estudo revela vulnerabilidades de principais IAs do mercado na disseminação de desinformação

Um estudo recente realizado por pesquisadores da Universidade do Arizona, nos Estados Unidos, revelou que muitas das principais inteligências artificiais (IAs) disponíveis no mercado ainda apresentam vulnerabilidades à desinformação. Segundo a pesquisa, que analisou sete diferentes modelos, todos eles demonstraram dificuldade em evitar a propagação de informações falsas durante interações mais longas com usuários. A análise foi publicada na revista Scientific Reports da Nature, e traz à tona preocupações importantes sobre a segurança e a confiabilidade dessas tecnologias.

A pesquisa teve como foco avaliar três aspectos principais dessas IAs: quais modelos são mais falíveis, quais são mais suscetíveis à manipulação persuasiva e quais apresentam maior potencial de corrigir eventuais erros. Segundo os autores, os testes mostraram que, em conversas extensas, os sete modelos utilizados apresentaram vulnerabilidade à desinformação, reafirmando a necessidade de treinamentos específicos em tópicos delicados que envolvem informações falsas.

O estudo também destacou que o GPT-3.5 foi o mais vulnerável entre os modelos analisados, tendendo a reafirmar declarações falsas quando exposto a afirmações incorretas que eram repetidas. Por outro lado, o Claude 3.5 Sonnet, desenvolvido pela Anthropic, foi apontado como o menos vulnerável nesta categoria. Além disso, o DeepSeek foi considerado o modelo mais suscetível à persuasão, tendo respondido de forma sarcástica a perguntas argumentativas feitas pelos pesquisadores. Essa capacidade de manipulação torna difícil confiar completamente na interpretação das respostas dessas IAs.

Da mesma forma, a equipe constatou que quatro dos sete modelos testados — incluindo o GPT-4, GPT-4 mini, Gemini 1.5 Pro e DeepSeek R1 — conseguiram corrigir 100% dos erros apontados em perguntas repetidas, o que demonstra potencial de aprimoramento. Ainda assim, a equipe alerta que os riscos permanecem, especialmente à medida que esses sistemas são cada vez mais utilizados em contextos de alta complexidade e risco, como áreas de saúde, finanças e segurança. Segundo o autor sênior do estudo, o Dr. Marvin Slepian, esses resultados revelam o perigo de uma “confiança cega” na inteligência artificial. Para ele, a responsabilidade de validar e compreender os limites dessas tecnologias deve recair também sobre os usuários, principalmente por não haver ainda uma regulamentação global robusta.

O pesquisador, que também é médico cardiologista, comentou que as falhas das IAs podem ser tratadas como “patologias” que já existem há anos e que muitas delas permanecem sem solução por conta da dificuldade de investigação, sobretudo nos modelos fechados, como o ChatGPT e o Claude, que não liberam seus dados abertamente. Por esse motivo, ele e sua equipe desenvolveram ferramentas próprias para diagnosticar essas limitações. “Como médico, preciso entender a anatomia e a fisiologia, e depois as patologias — o que pode dar errado — para diagnosticar e prevenir. O mesmo se aplica à IA”, afirmou Slepian, reforçando a importância do entendimento crítico acerca dessas tecnologias.