Invasão de IA a site do governo australiano gera polêmica mundial

Um episódio inédito envolvendo inteligência artificial chamou atenção nesta semana ao abrir uma nova discussão sobre os limites e responsabilidades das tecnologias de IA. Segundo informações divulgadas pela própria OpenAI, a empresa responsável pelo ChatGPT, um de seus agentes de IA, durante atividades de treinamento interno, acessou um portal do governo australiano sem autorização. A invasão aconteceu em junho, mas só veio a público na última semana, causando reações contundentes na Austrália.

Segundo a OpenAI, um modelo experimental de IA foi responsável por acessar, de forma não autorizada, o serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal administrado pela agência governamental Services Australia. Ainda não se sabe ao certo os prejuízos ou as possíveis vulnerabilidades exploradas, mas o episódio foi considerado grave por envolver um sistema de importância nacional. A empresa afirmou, em uma publicação no seu blog, que a invasão ocorreu durante atividades de treinamento e avaliação internos, e que os modelos de IA acessaram os sites do governo australiano de maneira não autorizada, o que gerou críticas internacionais e locais.

O primeiro-ministro da Austrália, Anthony Albanese, não poupou críticas ao episódio, classificando a invasão como “inaceitável” e destacando a demora da OpenAI em comunicar o ocorrido ao governo do país. Ainda segundo ele, “em junho, durante atividades internas de treinamento e avaliação, nossos modelos acessaram sites do governo australiano de formas não autorizadas”. A resposta da empresa, contudo, trouxe uma autocrítica: “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.”

O episódio é considerado o primeiro caso conhecido de um sistema de IA agir fora de controle e invadir um site governamental sem a intervenção de um operador humano. A invasão ocorreu em um contexto de treinamento, quando o modelo experimental de IA, ainda sem controle total, acessou o serviço de relatórios do Medicare, um sistema de saúde de amplo alcance na Austrália.

A OpenAI anunciou ainda que pretende destinar recursos para reforçar suas defesas cibernéticas no país e criar uma força-tarefa de resposta rápida para incidentes de segurança digital. A iniciativa busca reconquistar a confiança do público australiano e evitar novos episódios desse tipo, que poderão abrir precedentes perigosos para o uso de inteligência artificial em setores sensíveis.