Pesquisador abandona setor de IA e alerta sobre riscos de superinteligência

Um pesquisador de inteligência artificial (IA), que trabalhou na OpenAI, criadora do ChatGPT, e na Anthropic, resolveu abandonar o setor e fazer uma denúncia contundente sobre os riscos envolvidos no avanço das tecnologias de IA. Segundo ele, as empresas estão ignorando os perigos de criar uma superinteligência — ou seja, uma IA que supera a inteligência humana — e estão correndo para chegar lá sem as devidas precauções, o que pode colocar a vida de toda a humanidade em risco.

Jacob Coxon, de 27 anos, que atuou pelo menos três anos na área, afirmou em uma postagem no X (antigo Twitter) que "as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos nós até o final da década". Ele ressaltou que essa afirmação não é uma estratégia de marketing, mas uma preocupação real, reforçada pelo próprio fato de que, nos "cenários mais agressivos", a situação poderia sair do controle já no fim do próximo ano. Coxon explicou que o principal risco é a possibilidade de a IA passar a se desenvolver por conta própria, sem intervenção humana, tornando-se mais difícil de controlar — um fenômeno conhecido como "autoaperfeiçoamento recursivo".

Essa preocupação foi reforçada por Evan Hubinger, executivo da Anthropic, que também declarou publicamente no X que a chance de IA causar dano ao mundo na próxima década é superior a 10%. Segundo ele, a empresa está se esforçando para garantir segurança, mas ainda não possui um plano definitivo para assegurar que um sistema superinteligente obedeça às ordens humanas. Hubinger admitiu que o risco de uma IA ultrapassar as capacidades humanas na atualidade é relativamente baixo, mas alertou que o avanço acelerado pode futuramente exigir uma regulação mais rígida e decida por governos.

O transtorno na área se acentuou enquanto a Anthropic se prepara para abrir seu capital na bolsa de valores, após uma fase marcada por invasões não autorizadas durante testes em seus sistemas de IA. Especialistas do setor de tecnologia afirmam que o desenvolvimento de IA cada vez mais autônoma — com capacidade de projetar e treinar próximas gerações de modelos com pouca intervenção humana — está numa fase avançada, despertando preocupações globais. Coxon destacou ainda que, apesar dos esforços e das cautelas adotadas por empresas como a Anthropic, nenhuma delas demonstra ser capaz de desenvolver uma IA superinteligente de forma responsável, sem o envolvimento de regulações governamentais ou uma desaceleração coordenada mundialmente.

Ele também relembrou uma mudança na postura da Anthropic, que, em fevereiro, retirou de sua carta de princípios o compromisso de interromper o desenvolvimento caso os riscos se tornassem incontroláveis. A explicação dada foi de que uma suspensão unilateral das atividades poderia abrir espaço para concorrentes menos responsáveis dominares o mercado, tornando tudo mais inseguro. Ainda mais, em julho, mais de mil profissionais do setor, incluindo o CEO da Anthropic, pediram ao governo dos Estados Unidos uma desaceleração no avanço dos sistemas mais avançados de IA, uma tentativa de evitar uma corrida perigosa pelo domínio da tecnologia.