Executiva do Signal rebate previsões catastróficas sobre inteligência artificial

Meredith Whittaker, presidente da Signal Foundation, organização responsável pelo aplicativo de mensagens criptografadas Signal, manifestou-se publicamente contra previsões apocalípticas que circulam na mídia acerca do futuro da inteligência artificial (IA). Segundo ela, esses alertas sobre uma potencial ameaça à humanidade baseada na evolução descontrolada da IA são infundados e se apoiam em um temor que não possui respaldo científico sólido.

Whittaker, que também é reconhecida pela revista americana Time como uma das pessoas mais influentes na área de tecnologia, explicou que o risco mais imediato da IA está no uso irresponsável por parte de pessoas e organizações. Ela destacou um episódio mencionado pela CNN nos Estados Unidos, no qual um chatbot de sistema de inteligência artificial utilizado pelos serviços de inteligência do país teria fornecido informações falsas sobre um navio chinês supostamente transportando material nuclear. Ainda de acordo com a executiva, esse erro quase resultou em uma resposta militar dos Estados Unidos, levando a uma situação de alta tensão que, na sua avaliação, poderia ter escalado para um conflito maior.

“Um sistema que fornece informações falsas de inteligência e quase provoca uma guerra não pode ser considerado superinteligente, seja qual for o critério adotado”, afirmou Whittaker em entrevista à BBC Global Women. A executiva reforça que o uso descuidado da tecnologia, aliado a uma interpretação equivocada dos dados fornecidos por sistemas de IA, representa uma ameaça real e presente. Ela também comentou que o episódio é um exemplo claro de como a manipulação ou erro na inteligência artificial pode afetar relações internacionais e segurança global.

Embora o Signal conte com uma base de usuários que varia entre 40 milhões e 70 milhões — em comparação aos aproximadamente 3 bilhões do WhatsApp —, sua reputação é consolidada pela postura rigorosa de proteção à privacidade. Os servidores do aplicativo não guardam informações sobre os usuários, o que dificulta ações de terceiros ou ataques que comprometam os dados pessoais. Essa política de segurança reforça a importância de boas práticas no desenvolvimento e na gestão de tecnologias de IA, segundo entende Whittaker.

Minha fonte aponta que Whittaker, que iniciou sua carreira no Google em 2006 sem formação em ciência da computação, consolidou-se na área de tecnologia após conhecer detalhes do Projeto Maven, um contrato secreto entre a gigante de tecnologia e o Departamento de Defesa dos Estados Unidos para o desenvolvimento de sistemas de inteligência artificial destinados à identificação de alvos para ataques com drones. Ela foi uma das principais apoiadoras da greve de funcionários do Google em 2018, que protestou contra o envolvimento da empresa em projetos militares, incluindo o projeto Maven, que mais tarde foi abandonado pelo Google e assumido pela empresa Palantir. A executiva vinculou esse episódio ao aumento da tensão internacional, inclusive ao ataque com mísseis de que participou, atribuído a uma ação de inteligência artificial que reduziu o tempo entre a identificação de um alvo e a decisão de ataque.