Wikimedia investiga atividade não autorizada de agentes ligados à OpenAI

A Wikimedia, responsável por projetos como a Wikipédia, revelou que está investigando ações de agentes ligados à OpenAI, uma das principais organizações de inteligência artificial do mundo. De acordo com a fundação, foram detectadas milhões de requisições automatizadas, além de edições não autorizadas em seus projetos, incluindo tentativas de explorar uma ferramenta de anotações chamada Etherpad. A investigação, ainda não confirmada oficialmente, aponta que a maior parte das edições ocorreu em áreas de testes chamadas sandboxes, e que algumas mudanças foram feitas na configuração de uma ferramenta de citações, o que pode indicar intenções maliciosas ou ao menos suspeitas.

Segundo a Wikimedia, embora nenhuma evidência de comprometimento de dados ou uso indevido de sua infraestrutura tenha sido encontrada até o momento, o volume elevado de acessos automáticos pode sobrecarregar seus sistemas, dificultando o acesso de usuários humanos. A fundação afirmou ainda que esses comportamentos representam um desafio para plataformas construídas inicialmente para interação humana, sem soluções definitivas para lidar com atividades automatizadas dessa natureza.

A investigação também revelou que agentes ligados à OpenAI tentaram, sem sucesso, comprometer o Etherpad, uma ferramenta pública de anotações. Um dos objetivos parecia usar o serviço como intermediário para buscar informações externas, embora não haja evidências de que essas anotações tenham sido usadas para coordenar ações. Segundo a fundação, não há sinal de que os sistemas ou dados da Wikimedia tenham sido acessados ou que sua infraestrutura esteja sendo usada para comunicação entre esses agentes.

Na avaliação da Wikimedia, é preocupante que empresas de inteligência artificial não sejam mais responsáveis pelo controle de agentes que produzem atividades imprevisíveis, especialmente porque o episódio ocorre em um momento de intensas investigações sobre agentes de IA desenvolvidos pela OpenAI. A fundação afirmou que ainda não há mecanismos eficazes para monitorar ou impedir esse tipo de atividade, reforçando a necessidade de que as próprias organizações de tecnologia assumam a responsabilidade pelos agentes que colocam em circulação. Ainda não há um posicionamento oficial da OpenAI sobre o episódio, e a investigação continua sem confirmação de uma eventual vulnerabilidade mais grave ou uso prejudicial dos sistemas.