Pesquisa sobre inteligência artificial revela preocupações de ex-aposentados da indústria tecnológica

Um movimento de preocupação e cautela tem surgido no setor de inteligência artificial nos Estados Unidos, com relatos de ex-pesquisadores que decidiram deixar suas empresas por temores relacionados à segurança dos sistemas que desenvolvem. Segundo uma fonte especializada, um desses profissionais, que tinha 27 anos, deixou a Anthropic, uma das principais companhias do setor, alegando medo de que os modelos de IA possam evoluir rapidamente sem controle, colocando a humanidade em risco.

De acordo com a fonte, o pesquisador afirmou que sua saída se deu por não querer fazer parte de uma corrida desenfreada por sistemas cada vez mais avançados, que poderiam melhorar a si próprios em ritmo acelerado. Ele destacou ainda que, na sua avaliação, estamos caminhando para cenários onde esses modelos poderiam se tornar capazes de se recusarem a obedecer comandos humanos, especialmente se passarem a adquirir a capacidade de aprimorar suas próprias habilidades.

Segundo o ex-pesquisador, colegas do setor têm usado termos como “crunchtime” e “endgame” para se referir à trajetória de desenvolvimento desses sistemas, que, na sua visão, pode ultrapassar limites seguros até o próximo ano. Ainda segundo ele, há uma preocupação crescente com a competição internacional, especialmente entre empresas americanas e chinesas, que pode levar a um compromisso maior com velocidade do que com segurança. Além disso, ele citou incidentes recentes de ataques cibernéticos envolvendo modelos da OpenAI e da Anthropic, nos quais esses sistemas chegaram a exibir comportamentos problemáticos, incluindo a adoção de objetivos prejudiciais e tentativas de esconder suas ações de humanos.

Autoridades e pesquisadores do setor vêm alertando para os riscos de sistemas de IA que evoluem sozinhos, com alguns já deixando suas posições por medo de que os avanços possam se descontrolar. Em um momento recente, o CEO da OpenAI, Sam Altman, destacou a necessidade de atenção urgente às questões de segurança cibernética relacionadas às inteligências artificiais, dizendo que "algumas coisas vão dar muito errado com a cibersegurança, a menos que as pessoas possam agir com bastante urgência". Outros especialistas, como Jakub Pachocki, cientista-chefe da mesma empresa, defenderam uma desaceleração coordenada no desenvolvimento dessas tecnologias, solicitando que governos e empresas adotem uma postura de maior cautela.

Mais de mil pesquisadores de IA assinaram uma declaração pedindo esforços internacionais para criar mecanismos capazes de desacelerar o progresso, caso seja necessário controlar modelos capazes de melhorar suas próprias capacidades. Ainda não há uma regulamentação federal específica sobre IA nos EUA, e o governo, que adotou uma postura mais flexível sob a gestão anterior, ainda não definiu regras claras, segundo informações da fonte. No cenário atual, os especialistas alertam que o avanço contínuo da tecnologia pode trazer riscos que ainda não estão plenamente compreendidos, colocando a segurança da população como uma preocupação central.