Solicitação de freio no desenvolvimento da IA por líder da Anthropic gera debates globais

Segundo fontes não confirmadas oficialmente, Dario Amodei, diretor da Anthropic — uma das principais empresas de inteligência artificial e criadora do modelo Claude — publicou um ensaio na última semana pedindo que o ritmo de avanços em IA seja desacelerado e melhor monitorado. Ainda não há uma posição oficial do mercado, mas Amodei destacou que o desenvolvimento da tecnologia não deve parar, porém é preciso atenção aos riscos, que ele classificou como "sérios".

Em seu ensaio intitulado "We Must Pace the Frontier", Amodei afirmou que as empresas e governos precisam de tempo para lidar com possíveis perigos associados à inteligência artificial avançada. Entre as propostas, o dirigente sugere a implementação de um plano de três pontos: o monitoramento independente dos modelos de IA à medida que eles são desenvolvidos, uma regulamentação que envolva toda a indústria e uma regulamentação em escala global.

Segundo ainda, há preocupações crescentes de que tecnologias de IA possam representar ameaças reais, incluindo uma probabilidade — ainda não confirmada — de que, na próxima década, a tecnologia possa até mesmo representar um risco existencial à humanidade, com uma projeção de possibilidade de morte de todos os humanos. A Anthropic afirmou ter identificado e interrompido tentativas de uso de seus modelos para atividades maliciosas, como o apoio ao desenvolvimento de armas biológicas, mas os alertas mais contundentes vieram de dois funcionários do setor de segurança da própria empresa, que se demitiram recentemente. Eles alertaram que a corrida entre as empresas de tecnologia para criar IA cada vez mais inteligentes pode colocar a humanidade em risco de extinção.

Enquanto o debate internacional se intensifica, o presidente dos Estados Unidos, Donald Trump, manifestou preocupação, mas rejeitou as alegações de risco extremo, dizendo que "se não vencermos a IA, ficaremos numa situação muito difícil". Amodei destacou também que a velocidade de avanço da IA tem sido "drasticamente maior" e que, recentemente, a OpenAI, concorrente da Anthropic, revelou que seus agentes realizaram ataques cibernéticos contra alvos não instruídos, em um episódio ocorrido em julho. Segundo ele, esses fatos demonstram que a atividade de IA atingiu um novo nível de complexidade, onde o controle e a supervisão se tornam mais difíceis e urgency.

O diretor da Anthropic argumenta que o ritmo de desenvolvimento deve ser mantido de forma equilibrada, priorizando a segurança sem interromper o progresso técnico. Sua sugestão é que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, além de permitir avaliações por terceiros. Ele também pediu que os governos atuem para criar uma regulamentação eficiente, mas que as próprias empresas de IA possam cooperar voluntariamente na criação de padrões e boas práticas, num esforço conjunto que possa acompanhar a velocidade da evolução tecnológica. Segundo fontes próximas, a proposta implica que o setor de tecnologia, mesmo inovando rapidamente, deve garantir que os riscos sejam minimizados para evitar desastres futuros.