Executiva do Signal minimiza previsões apocalípticas sobre inteligência artificial

Meredith Whittaker, presidente do Signal, tem se posicionado contrária às previsões de um possível 'apocalipse' causado pela inteligência artificial. Segundo ela, os riscos mais relevantes atualmente não vêm de uma IA superinteligente que possa se voltar contra a humanidade, mas do uso irresponsável e descuidado dessa tecnologia por seres humanos. Em declarações recentes, ela declarou que "o risco é muito real", mas que esses alarmes exagerados, muitas vezes, se fundamentam em histórias fantasiosas sem respaldo científico.

Whittaker, que também foi uma das organizadoras de uma grande paralisação de cerca de 20.000 funcionários do Google em 2018, explica que sua preocupação maior é com a implementação imprudente de sistemas de inteligência artificial. Ela relaciona essa postura a ações como o Projeto Maven, contrato secreto do Google com o Departamento de Defesa dos Estados Unidos para o desenvolvimento de IA com fins militares, incluindo a identificação de alvos para ataques com drones. Ainda que a Palantir, empresa que fornece software ao projeto, tenha declarado que não há evidências de que seu sistema tenha causado um ataque a uma escola no Irã, a executiva enfatiza o perigo de sistemas de IA que possam gerar informações falsas, como aconteceu com um chatbot utilizado pelos serviços de inteligência dos Estados Unidos, que teria inventado dados sobre um navio chinês transportando material nuclear.

Segundo Whittaker, esse episódio quase levou uma resposta militar dos EUA contra a China, um episódio que ela classifica como grave e que destaca a vulnerabilidade de sistemas de IA mal gerenciados. Ela reforça que um sistema de inteligência artificial que fornece informações falsas de forma tão grave não pode ser considerado superinteligente, independentemente do padrão avaliado. Além disso, ela critica a pressão de governos por maior acesso às mensagens dos aplicativos, com o argumento de que isso visa proteger crianças e mulheres. Em contrapartida, ela defende a privacidade total dos usuários do Signal, afirmando que o aplicativo precisa funcionar “para todos, caso contrário não funciona para ninguém”.

Com um público estimado entre 40 e 70 milhões de usuários, o Signal se destaca por sua postura firme na defesa da privacidade, diferente de aplicativos como o WhatsApp, que possui cerca de 3 bilhões de usuários. Whittaker é reconhecida internacionalmente, tendo sido nomeada uma das pessoas mais influentes na área de IA pela revista americana Time. Seu trabalho inclui discussões em importantes fóruns globais, de instâncias do Vale do Silício até reuniões em Davos e no Vaticano. Ela começou sua trajetória em outros campos da literatura, graduando-se nessa área e ingressando no Google em 2006, sem formação específica em ciência da computação. Sua notoriedade cresceu ao fim de 2017, após descobrir sua participação no projeto Maven, que a colocou na linha de frente de debates sobre o uso militar de IA.

Ao reforçar sua posição contra previsões alarmistas, Whittaker alertou que o verdadeiro perigo da inteligência artificial está no uso irresponsável, muitas vezes por governos e grandes corporações, e não em uma ameaça de uma IA autônoma que possa destruir a humanidade ou criar cenários infundados de risco extremo.