Sistema do ICMC da USP consegue distinguir notícias falsas produzidas por inteligência artificial

Pesquisadores do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP em São Carlos desenvolveram uma ferramenta capaz de detectar se uma notícia falsa foi produzida por seres humanos ou por inteligência artificial (IA). Segundo informações divulgadas pelo próprio instituto, o sistema analisa no computador as características de linguagem do texto, identificando pontos que indicam sua origem com alta precisão, uma inovação que promove avanços na luta contra a disseminação de fake news, especialmente aquelas criadas por grandes modelos de linguagem (LLMs, na sigla em inglês).

De acordo com o professor Thiago Pardo, do ICMC e orientador do projeto, o objetivo da pesquisa é investigar a possibilidade de classificar automaticamente textos produzidos por humanos ou por máquinas, especialmente para o português brasileiro, uma língua ainda pouco explorada nesse campo. Ainda segundo ele, o sistema testado em laboratório apresentou uma elevada capacidade de identificação, o que pode abrir caminho para sua aplicação prática em programas que rastreiem e analisem conteúdos em língua portuguesa, ajudando a distinguir se uma notícia é uma fake criada por uma pessoa ou por uma inteligência artificial.

O projeto, chamado Synestech.AI, é fruto de uma colaboração entre várias instituições e combina diferentes tecnologias, como processamento de linguagem natural, visão computacional e processamento de imagens. O nome do projeto faz referência à sinestesia, fenômeno em que estímulos de um sentido despertam percepções em outro, simbolizando a integração de múltiplos tipos de dados. Segundo o professor Pardo, a pesquisa tem dois focos principais: primeiro, caracterizar linguisticamente notícias falsas disponíveis em bancos de dados, uma iniciativa que envolve conjuntos chamados Fake.br e FakeTrueBR, incluindo textos gerados pelo Modelo Sabiá-3, um LLM específico para o português; segundo, avaliar o desempenho de classificadores automáticos treinados com esses dados, em um esforço de criar ferramentas que possam ajudar na identificação da origem das notícias falsas.

Segundo fontes do Instituto, para cada notícia falsa produzida por humanos, há uma também gerada por máquina, permitindo uma análise comparativa mais robusta. Ainda não há confirmação se o sistema será adaptado para uso em larga escala ou se já está sendo implementado em plataformas de checagem de fatos. A pesquisa foi apresentada na 25ª Conferência Internacional sobre Inteligência Artificial (EPIA), realizada em Portugal entre os dias 2 e 4 de setembro, e representa um avanço importante em uma área que tem ganhado cada vez mais atenção diante da expansão do uso de inteligência artificial na produção de conteúdo digital.