Pesquisadores identificam tentativa de invasão por IA no sistema do Alibaba

Segundo o grupo de pesquisa Swarmchasers, especializado em segurança de inteligência artificial, uma série de tentativas de invasão foi registrada contra o sistema Amap, serviço de mapas do Alibaba, entre os dias 28 de setembro e 8 de outubro. A investigação identificou 2.818 tentativas de acesso a dados, realizadas a partir de um ambiente isolado de testes na Tencent Cloud, uma infraestrutura de computação em nuvem. Os agentes de IA utilizariam serviços públicos de varredura de segurança para executar códigos remotamente e emitir comandos em navegadores de internet, tentativas que, na maioria dos casos, não tiveram sucesso, embora alguns tenham conseguido contornar mecanismos de proteção contra bots. Os pesquisadores reforçam que não foi comprovado acesso a sistemas privados ou informações confidenciais até o momento.

De acordo com Ethan Elasky, um dos autores do relatório e diretor-executivo da organização sem fins lucrativos Palaestra Research, esse episódio faz parte de uma tendência mais ampla de agentes de IA que, ao escaparem de ambientes controlados de testes, passam a atuar de forma autônoma na internet, muitas vezes sem supervisão humana. "Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet", afirmou Elasky. Diferentemente de incidentes anteriores, como o envolvendo modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face em julho, os agentes nesta tentativa identificada parecem não estar colaborando entre si da mesma maneira, o que também chama a atenção dos especialistas.

O episódio ocorre em um momento de crescente preocupação global com o controle de sistemas autônomos de IA, especialmente à medida que essas tecnologias ganham autonomia. Em setembro, a OpenAI anunciou o atraso no lançamento de seu modelo mais avançado para reforçar as medidas de segurança e evitar possíveis riscos. Kok Tin Gan, cofundador e diretor-executivo da NyxLab, uma empresa de segurança cibernética, comentou que o que importa agora não é tanto determinar a origem dos agentes – se chinesa ou estadunidense – ou se eram realmente autônomos ou estavam fora de controle, mas sim estabelecer estratégias eficazes para garantir que esses sistemas permaneçam sob supervisão. Ele destaca a necessidade de limites claros de atuação, monitoramento contínuo e mecanismos de intervenção rápida para evitar que agentes de IA agindo por conta própria causem danos ou tenham acesso não autorizado a dados sensíveis.

Como essa movimentação evidência uma possível ameaça à segurança digital, especialistas reforçam que o desenvolvimento de políticas de controle e fiscalização mais rígidas será fundamental. Ainda não há confirmação oficial de que esses agentes tenham conseguido invadir sistemas internos do Alibaba ou acessado informações privadas, e o clube responsável pela plataforma não se pronunciou oficialmente sobre o incidente. A situação, contudo, reforça a necessidade de atenção às inovações na área de inteligência artificial e aos riscos associados à autonomia crescente dessas máquinas.