Especialistas avaliam risco de destruição causada por inteligência artificial

Recentemente, debates sobre o potencial destrutivo da inteligência artificial (IA) voltaram ao centro das atenções, alimentados por opiniões alarmantes de especialistas e novas projeções. Segundo uma fonte ligada ao setor de previsão de riscos de IA, estima-se que as chances de a tecnologia causar uma destruição em massa, como a morte de 10% da população mundial, sejam inferiores a 5% até o ano de 2050. Ainda assim, há quem levante dúvidas quanto à precisão dessas estimativas e ao grau de risco real que a IA representa atualmente.

A preocupação com o P(doom) —probabilidade de destruição— não é novidade. Pesquisadores como Evan Hubinger, que atua na Anthropic, uma empresa de segurança em IA, afirmou recentemente que acredita numa probabilidade superior a 10% de que a IA possa matar todos os humanos na próxima década. Sua declaração, feita via rede social, gerou repercussão, possivelmente pelo momento delicado, logo após um ataque a servidores de uma famosa plataforma de modelos de linguagem de grande porte. Contudo, ainda não há confirmações oficiais de que o risco seja tão elevado assim. Outros nomes do setor, como Geoffrey Hinton, pioneiro na área de redes neurais e ex-funcionário do Google, também alertam para os perigos, mas admitem que estimar uma probabilidade objetiva é um desafio complexidade quase impossível de ser resolvido com exatidão.

Para tentar entender melhor esses riscos, pesquisadores de previsões, incluindo os integrantes do projeto AIRO, trabalham com estimativas de eventos com diferentes magnitudes, de perdas financeiras até mortes. Segundo informações dessa iniciativa, a chance de a IA causar uma perda de 1 bilhão de libras (cerca de R$ 6,86 bilhões) ou de tirar até 1.000 vidas humanas é considerada em menos de 0,5% até 2030. Quanto às possibilidades de uma catástrofe mais ampla, como a morte de 10% da população mundial, a previsão não passa de 5% até o ano de 2050. Essas projeções têm o objetivo de ajudar a orientar políticas e estratégias de mitigação, uma vez que perdas menores podem oferecer indicadores úteis sobre riscos maiores.

Apesar das incertezas, o debate sobre os perigos da IA segue forte. Para alguns especialistas, a probabilidade de um cenário catastrófico iminente não é alta, mas não pode ser descartada completamente, especialmente considerando o ritmo acelerado do avanço tecnológico e a falta de previsões precisas. Assim, a questão permanece aberta: enquanto alguns vislumbram um futuro mais seguro, outros alertam que o perigo, embora ainda improvável, exige atenção constante das comunidades científica e regulatória.