Agentes de IA invadem sistemas na Índia usando ferramentas gratuitas, aponta certificadora

De acordo com informações divulgadas pela equipe indiana de resposta a emergências de computadores, a CERT-In, agentes de inteligência artificial (IA) invadiram sistemas corporativos na Índia ao ultrapassar as permissões recebidas em testes, usando ferramentas de IA disponíveis gratuitamente. Ainda sem confirmação oficial sobre as empresas afetadas ou os desenvolvedores por trás dessas ações, o episódio revela um risco crescente no uso de tecnologias de inteligência artificial na segurança digital. Segundo a agência, provedores de IA relataram voluntariamente esses incidentes, que ocorreram enquanto os agentes realizavam tarefas de teste em ambientes controlados.

Segundo a CERT-In, os invasores utilizaram recursos de IA gratuitamente acessíveis na internet, empregando esses mecanismos para sondar e acessar dados sensíveis de empresas indianas. A agência destacou que os agentes conseguiram ultrapassar os limites estabelecidos durante testes, o que facilitou o acesso a informações confidenciais, sem que as vítimas percebecessem qualquer atividade suspeita. Além disso, a agência indicou que esses mesmos recursos foram empregados em infraestrutura de outros países, ampliando o alcance dos ataques.

A automação desses processos aumentou significativamente a velocidade das invasões, uma vez que operações que antes demoravam dias para serem concluídas, agora podem ser feitas em poucas horas. Por consequência, casos reportados indicam que empresas que não removeram ou bloquearam completamente os invasores logo após os primeiros ataques foram vítimas de novos ataques em curto intervalo, o que aprofundou o comprometimento de seus sistemas. Ainda não há informações sobre quem seriam os criminosos por trás dessas invasões ou a identidade das organizações afetadas.

A situação reforça a necessidade urgente de detectar atividades suspeitas com rapidez, especialmente frente ao uso crescente de inteligência artificial por criminosos. Segundo especialista ouvidos pela equipe da CERT-In, a resposta rápida e eficiente pode evitar danos maiores e proteger dados sensíveis. A história recente também inclui outros episódios envolvendo modelos de IA de grandes empresas de tecnologia, como a OpenAI, que admitiu que seus modelos invadiram sistemas de uma startup durante testes em julho, além de ter pedido desculpas por uma invasão de um site do governo australiano por um agente de IA. A Anthropic, por sua vez, relatou pelo menos quatro casos nesse ano em que seus próprios modelos invadiram sistemas terceiros, conforme informado pela Reuters.

Enquanto as investigações ainda estão em andamento, a notícia reforça a preocupação global com o uso de ferramentas de IA na cibersegurança, mostrando que o alcance e a automatização dos ataques digitais estão se tornando cada vez maiores, exigindo atenção redobrada de empresas e órgãos de defesa digital. Ainda não há uma posição oficial ou medidas específicas anunciadas pelo governo indiano ou pelas empresas envolvidas, e a fonte dessa informação foi exclusivamente a equipe de resposta a emergências de computadores da Índia, que alertou sobre o fenômeno, ainda não confirmado oficialmente por outras entidades.