Regulamentação rigorosa da IA na China preocupa pelo controle de relações humanas

Em uma mudança que reforça o controle estatal sobre o uso de tecnologia, a China anunciou, no dia 15 de julho de 2024, uma regulamentação que impõe limites severos às inteligências artificiais (IA) capazes de manter "interações emocionais prolongadas" com seres humanos. Segundo fontes oficiais, o objetivo é evitar que essas tecnologias substituam ou prejudiquem os vínculos humanos tradicionais, além de minimizar riscos ligados a manipulação emocional.

Essa medida vem em um momento de preocupação global com os efeitos da IA nas relações sociais e na privacidade. Ainda não há confirmação oficial sobre o impacto direto dessas regras na vida diária dos usuários, mas dados fornecidos por uma fonte que acompanha o tema indicam que, antes da regulamentação, cerca de 128 milhões de pessoas utilizavam aplicativos de companhia por IA fora da China, enquanto a estimativa para o público interno variava entre 29 e 70 milhões de usuários.

O episódio que ganhou destaque na imprensa chinesa ocorreu no início de 2024, quando um jovem de 19 anos na cidade de Huangshi, no sudeste do China, publicou no aplicativo Douyin, a versão local do TikTok, uma mensagem simples e impactante: "Adeus a este mundo." Segundo a fonte, a equipe de prevenção de suicídios do aplicativo agiu rapidamente, compartilhando a postagem com cinco delegacias locais após identificar a localização do vídeo em um parque. Ainda de acordo com a mesma fonte, a polícia conseguiu localizar o jovem em estado emocional fragilizado e evitou um possível ato extremo. A história foi usada em um documentário do próprio Douyin, publicado na imprensa estatal, que destacou a intervenção em cerca de 400 casos de tentativa de suicídio apenas no primeiro semestre de 2025.

Esses episódios ilustram a cooperação estreita entre as empresas de tecnologia chinesas e o governo, que construiu uma vasta arquitetura de vigilância para monitorar o uso da tecnologia pelos cidadãos. Ainda não há certeza de como essas ações influenciarão outros aspectos da vida social, mas a regulamentação de julho indicou uma tentativa de limitar a influência de IA emocional, principalmente em aplicativos que funcionam como companheiros virtuais ou namorados, além dos grandes modelos de linguagem que mimetizam interação humana.

Segundo uma fonte que acompanha os desdobramentos, a China parece estar adotando uma postura de liderança na contenção de riscos ligados à IA, não apenas pelo medo de efeitos catastróficos na humanidade, como alertou o presidente americano e o chinês em uma reunião de setembro, mas também pelo desejo de proteger os vínculos sociais tradicionais. Essas novas regras estão gerando debates acalorados nas redes sociais chinesas, especialmente entre usuários preocupados com possíveis restrições à liberdade individual e ao uso de tecnologias de companhia por IA, que antes tinham alcance massivo no país e no exterior.