Relatório da Anthropic revela esforços para frear uso indevido de IA em armas biológicas

A empresa de inteligência artificial Anthropic, conhecida pelo seu modelo chamado Claude, divulgou na quinta-feira um relatório que revela tentativas de uso indevido de suas tecnologias para fins perigosos, incluindo o desenvolvimento de armas biológicas. Segundo a própria companhia, diversas contas foram bloqueadas por tentarem acessar ou manipular os sistemas da empresa para apoiar pesquisas relacionadas a agentes biológicos de risco, como doenças infecciosas e toxinas, além de venenos.

O relatório detalha cinco estudos de casos que aconteceram ao longo de 30 dias, nos quais usuários de diferentes regiões tentaram driblar as medidas de segurança embutidas nos modelos de IA. Entre as tentativas, estariam pesquisas de gain of function — uma técnica que pode aumentar a virulência ou transmissibilidade de agentes infecciosos — relacionadas a doenças como a gripe aviária, além de estudos envolvendo substâncias potencialmente venenosas. Segundo a Anthropic, esses esforços seriam de indivíduos considerados “cientistas atuantes”, mas a empresa ainda não conseguiu identificar as instituições ou países envolvidos nessas atividades, nem confirmar se as ações visavam causar danos ou se eram legítimas pesquisas científicas.

A empresa declarou que seus modelos mais recentes, como o Claude Fable 5, foram atualizados com salvaguardas mais rigorosas, que restringem o acesso a buscas de informações biológicas de dupla utilização, ou seja, aquelas que podem servir tanto para fins legítimos quanto para atividades malévolas. Ainda assim, a companhia afirmou que, ao analisar um mês de atividades, identificou cerca de 35 ações potencialmente preocupantes, embora sem certeza de suas intenções finais. Segundo a fonte, a Anthropic considera tais riscos como um dos “mais sérios” que o uso de IA pode representar atualmente.

O tema ganha espaço em meio às discussões globais sobre os perigos da inteligência artificial e sua autorregulamentação, principalmente após declarações de líderes do setor, que pedem por uma desaceleração no desenvolvimento dessas tecnologias para evitar riscos maiores. Ainda não há uma confirmação oficial sobre o envolvimento de governos ou instituições específicas, e o clube não se pronunciou detalhadamente sobre as ações ou possíveis investigações nesse sentido.

Esse cenário levanta questões relevantes para a segurança global, sobretudo quanto à capacidade de controlar recursos tecnológicos tão avançados e evitar que eles sejam utilizados para fins destrutivos. A preocupação é que, mesmo com mecanismos de salvaguarda, indivíduos ou grupos possam encontrar formas de contornar as barreiras e explorar a inteligência artificial de modo prejudicial, reforçando a necessidade de uma reflexão contínua sobre o desenvolvimento ético dessa tecnologia.