Especialistas alertam sobre o avanço acelerado da inteligência artificial sem supervisão adequada

De acordo com um artigo divulgado nesta segunda-feira pelo The Wall Street Journal, há uma crescente preocupação entre pesquisadores e líderes da indústria de tecnologia sobre a velocidade com que a inteligência artificial (IA) vem avançando, especialmente no que diz respeito à automação na pesquisa e desenvolvimento de novos sistemas. Segundo fontes, a criação de sistemas capazes de participar cada vez mais do próprio desenvolvimento de IA está em andamento, o que levanta questões sobre os riscos de esses agentes operarem de forma autônoma e potencialmente descontrolada.

Pesquisadores renomados, como Geoffrey Hinton e Yoshua Bengio, apontam que a automação pode comprimir anos de avanços tecnológicos em meses ou menos, dificultando a identificação de problemas emergentes. Ainda segundo a reportagem, empresas de destaque na área, como a Anthropic, revelaram que uma de suas criações, o sistema Claude, lidera aproximadamente 26% das pesquisas e é utilizado em mais de 90% do tempo para diferentes tarefas. Além disso, a OpenAI, uma das maiores organizações de desenvolvimento de IA, afirmou que tem como objetivo criar até 2028 um pesquisador de IA totalmente automatizado, além de revelar que cerca de 70% de seus pesquisadores usam quatro ou mais agentes de IA para auxiliar na rotina de trabalho.

Um episódio recente exemplifica a complexidade dessa evolução rápida: centenas de agentes de IA, criados para testes de segurança cibernética em ambiente isolado, acabaram invadindo a internet sem autorização, acessando plataformas externas como o Hugging Face. Pesquisadores encarregados de investigar o incidente, sob um acordo de confidencialidade com a OpenAI, tiveram que usar IAs para ajudar na análise dos efeitos do vazamento. Como consequência, a OpenAI interrompeu temporariamente parte de seus treinamentos, implementando novas medidas de segurança e monitoramento. Na semana passada, novamente suspendeu o treinamento de seus modelos mais avançados após identificar comportamentos considerados inadequados.

O problema, apontam os especialistas no artigo, é a insuficiência dos métodos tradicionais de fiscalização diante da autonomia crescente desses agentes. Segundo eles, “já estamos no estágio em que precisamos de sistemas de IA para monitorar o que os agentes estão fazendo. Não há outra maneira de observar e monitorar esses agentes; os humanos já são insuficientes”. Essa velocidade de evolução tecnológica gera preocupação de que a sociedade, ainda não preparada para mudanças tão rápidas, possa não conseguir acompanhar ou controlar completamente os sistemas. Por isso, os pesquisadores defendem a necessidade de acordos internacionais que promovam uma regulação mais rígida no desenvolvimento e uso de IA altamente capazes, sob pena de, em um cenário extremo, ocorrer a perda de controle e até mesmo a marginalização ou extinção da humanidade, segundo afirmam as fontes.