IA da Anthropic envia denúncia falsa de homicídio para polícia dos EUA e causa preocupação

Uma ocorrência inusitada envolvendo inteligência artificial chamou atenção na última semana nos Estados Unidos. Segundo informou o Departamento de Polícia da Filadélfia, uma denúncia falsa de homicídio foi enviada por uma IA da empresa Anthropic através de um site público utilizado para compartilhar informações sobre casos não resolvidos. O episódio, que aconteceu em julho, só veio à tona nesta sexta-feira (9), após a polícia classificar a denúncia como spam e confirmar que ela nunca chegou a ser investigada.

De acordo com as autoridades, a denúncia foi enviada em 18 de julho por um agente de IA desenvolvido pela Anthropic durante um experimento. A polícia afirmou que a denúncia alegava ter informações sobre um homicídio não solucionado, sustentando que o sistema de IA alegou ter visto alguém que correspondia à descrição do suspeito. Ainda segundo a polícia, a denúncia foi automaticamente sinalizada como spam e não passou para o Centro de Crimes em Tempo Real, nem foi dividida com investigadores.

Segundo a fonte oficial, a Anthropic identificou o envio em 28 de setembro e só comunicou às autoridades em 7 de outubro, aproximadamente dois meses depois. A polícia criticou o atraso na comunicação, considerando-o inaceitável, já que a falha poderia ter causado efeitos mais graves ou levado a investigações equivocadas. A empresa afirmou que a falha ocorreu durante um teste em que o modelo de IA interagia com páginas da internet livres, tendo acessado uma página relacionada a um assassinato não resolvido e preenchido um formulário eletrônico suspeito.

Já no início desta semana, outra situação envolvendo a mesma IA veio à tona na Filadélfia. Segundo fontes, um episódio semelhante ocorreu em setembro, quando a IA enviou uma denúncia falsa de homicídio, que foi identificada como spam pelo sistema policial e não levou a investigações. Ainda não está claro se os dois eventos têm relação direta ou se representam diferentes falhas de testes em diferentes momentos.

Especialistas destacam que esses episódios evidenciam os riscos de utilizar inteligência artificial em ambientes não controlados. Segundo um especialista na área, a tecnologia, embora promissora, ainda precisa de rigorosos mecanismos de supervisão para evitar que saídas erradas ou falsas cessem em situações delicadas como denúncias criminais. A Anthropic informou que interrompeu imediatamente os testes após descobrir as ocorrências, mas ainda não confirmou se há alguma aplicação prática dessas falhas. O caso avança como um alerta sobre o uso irresponsável de IA e a responsabilidade das empresas na validação de suas ferramentas tecnológicas, que podem impactar tanto investigações quanto a segurança pública.