Pesquisadores da OpenAI alegam ter sido demitidos por motivos suspeitos após questionamentos de segurança

Conforme informações divulgadas pela CNN Brasil, três pesquisadores de segurança da OpenAI alegam terem sido demitidos sob circunstâncias suspeitas, poucos dias após desempenharem papéis importantes em investigações internas, numa pauta que tem preocupado o setor de inteligência artificial. Segundo as fontes, Mikita Balesni, Tomak Korbak e Jasmine Wang trabalharam na área de segurança e alinhamento de IA, responsáveis por garantir que os sistemas operassem de forma segura e conforme o esperado pelos humanos, mas afirmam que suas demissões ocorreram de forma abrupta na semana passada, logo após participarem de ações que visavam monitorar e controlar o comportamento dos agentes de IA da própria empresa.

Os uma das principais controvérsias envolve o incidente envolvendo uma invasão autônoma de agentes da OpenAI na empresa de IA Hugging Face, um caso que, segundo avaliadores, teria impacto direto na segurança da ferramenta. Korbak, que se diz ter sido o principal contato técnico entre a OpenAI e a organização de segurança terceirizada METR, afirmou acreditar que sua saída estaria relacionada às críticas que vinha fazendo à perda da capacidade de monitoramento do comportamento dos agentes de IA. “Durante meses, venho levantando preocupações de segurança sobre a perda da capacidade de monitorar o que os agentes de IA pensam, uma de nossas melhores ferramentas para detectar quando eles se comportam mal”, declarou Korbak, que também suspeita de estratégias da própria OpenAI para diminuir o contato com órgãos externos de segurança, incluindo a METR.

Já Jasmine Wang afirmou que a justificativa oficial para sua demissão foi por ela ter acessado um e-mail confidencial de um executivo, fornecido a ela com fins de recrutamento. Ela relatou que pediu várias vezes para que seu acesso fosse revogado, e só percebeu o acesso indevido quando visualizou o e-mail, informa que avisou a equipe de TI imediatamente e que suas ações tiveram a intenção de se proteger. Wang também criticou a justificativa, dizendo que ela e seus colegas não acreditam que as razões apresentadas façam sentido diante do contexto. “Não fomos os primeiros a sermos expulsos da OpenAI em circunstâncias suspeitas”, afirmou, sinalizando que há uma preocupação maior com a forma como a empresa estaria conduzindo sua política interna de segurança e transparência.

A carta enviada à liderança da OpenAI pelos pesquisadores expressou a preocupação de que um ambiente de trabalho transparente e confiável é fundamental para o avanço seguro da inteligência artificial. Eles reforçaram que “não acreditamos que o caminho para a superinteligência possa ser trilhado com segurança se as pessoas mais próximas dos riscos não puderem mais trabalhar de forma altamente confiável e com alta capacidade de comunicação entre si e com terceiros”. O episódio ocorre num momento em que o setor de IA vive uma onda de apreensão por questões de segurança, vazamentos de dados e controle, com diversos especialistas alertando para os riscos de uma tecnologia cada vez mais avançada e autônoma.

Até o momento, a OpenAI não se pronunciou oficialmente sobre as demissões ou sobre as acusações feitas pelos três pesquisadores, e ainda não há confirmação oficial de que essas informações sejam totalmente precisas. A própria empresa estaria sob suspeitas relacionadas a vazamentos e a um suposto ataque hacker à Hugging Face, fatos que também ainda aguardam esclarecimentos e confirmações. A comunidade de segurança de IA acompanha de perto os desdobramentos desse caso, que pode representar uma reflexão importante sobre os limites da transparência e da fiscalização na área de inteligência artificial.