Discussões sobre governança da inteligência artificial: o que estamos tentando proteger?

Na busca por estabelecer uma governança eficiente para a inteligência artificial (IA), questionamentos vêm ganhando força entre especialistas e instituições de pesquisa. Segundo uma análise de Maria Imaculada Da Conceição, bibliotecária da Faculdade de Filosofia, Letras e Ciências Humanas da USP, a preocupação não é apenas com transparência, privacidade ou supervisão humana, mas com o que exatamente se deseja preservar nesse cenário de rápida evolução tecnológica.

Segundo ela, falar em controle da IA envolve um entendimento profundo do que não podemos abrir mão ao estabelecer regras. Ela destaca que governar uma tecnologia como essa não é apenas criar normas para evitar erros ou garantir conformidade, mas assegurar condições que mantenham a responsabilidade pelo conhecimento produzido e difundido. Ainda segundo ela, uma resposta gerada por IA pode parecer correta, convincente e bem estruturada, mas isso não é suficiente para que ela receba o mesmo reconhecimento de uma informação que possa ser relacionada a uma fonte, examinada e confrontada com outras evidências.

De acordo com a pesquisadora, a IA generativa demonstra uma competência extraordinária em produzir o que ela chama de “aparência de conhecimento”. Ela responde com segurança, organiza argumentos e estabelece relações, raramente demonstrando dúvida. Essas características podem dificultar a distinção entre uma informação autêntica e uma produção de máquina, o que levanta uma questão fundamental: ao traçar limites, o que exatamente estamos dispostos a perder nesse processo de regulação?

Ela ainda ressalta que essa discussão é especialmente importante no contexto universitário, onde a produção de conhecimento deve também garantir a autoria, a responsabilidade e a possibilidade de controle sobre o que é divulgado e ensinado. Ainda não há confirmação oficial de que todos esses aspectos estejam sendo considerados em políticas públicas ou regulações específicas, e o debate continua em aberto, aguardando o desenvolvimento de normativas que possam equilibrar inovação e proteção.

Portanto, o debate permanece vivo, com a comunidade acadêmica e as autoridades refletindo sobre quais princípios devem prevalecer para garantir que a inteligência artificial seja uma ferramenta de avanço sem comprometer valores essenciais ligados à responsabilidade e à veracidade da informação.