ONU alerta sobre riscos existenciais da inteligência artificial avançada

O Alto-Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, fez um pronunciamento importante nesta segunda-feira, 7, alertando para os potenciais perigos que a inteligência artificial (IA) avançada representa para a sociedade mundial. Às vésperas do início de seu segundo mandato, Türk afirmou que a tecnologia pode evoluir até o ponto de se tornar um risco 'existencial' para a humanidade, uma expressão que indica uma ameaça à própria sobrevivência da espécie humana.

Segundo Türk, é fundamental estabelecer com urgência uma governança global para a IA, ou seja, regras e controles que possam orientar seu desenvolvimento de forma segura. Embora ele não tenha detalhado quais seriam esses riscos específicos, uma porta-voz de seu gabinete comentou que falhas em sistemas de IA muito poderosos poderiam causar interrupções em infraestruturas críticas, além de afetar instituições democráticas eComunicações.

Em seu discurso, o representante também prometeu pressionar as empresas do setor a reduzirem riscos associados ao uso da inteligência artificial, sobretudo no que diz respeito a interrupções nos serviços essenciais, à propagação de informações falsas e ao impacto na estabilidade das democracias. Ele ainda ressaltou a necessidade de responsabilizar autores de ações potencialmente perigosas, como o suposto uso de drones autônomos por Rússia e casos de mortes sob custódia de imigração nos Estados Unidos, embora essas questões ainda não tenham sido confirmadas oficialmente.

Apesar de não entrar em detalhes sobre os tipos exatos de perigos que a IA avançada pode apresentar, Türk afirmou que, em sua opinião, a implementação de garantias inabaláveis — ou seja, medidas sólidas e efetivas de segurança — é uma urgência global. “Compartilho das preocupações de especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, declarou na ocasião. A fala dele reforça a preocupação crescente de que o desenvolvimento acelerado dessa tecnologia pode fugir do controle humano se não houver regulações adequadas antes que seja tarde demais.

Analistas e especialistas ainda não têm certeza total sobre o impacto exato dessas ameaças, e o próprio Parlamento Mundial da ONU não confirmou oficialmente detalhes adicionais, mas o alerta de Turk marca uma mudança de tom nas discussões internacionais sobre o futuro da inteligência artificial. A expectativa agora é de que governos, empresas e organizações globais iniciem um diálogo mais sério e imediato sobre como garantir uma tecnologia que, ao mesmo tempo em que traz benefícios, possa ser controlada de forma segura e responsável.