ANPD prepara centro de inteligência artificial para regular plataformas digitais

A Agência Nacional de Proteção de Dados (ANPD), segundo informações divulgadas pela Folha de São Paulo, está se preparando para criar um centro de inteligência artificial voltado à análise do funcionamento de plataformas digitais, especialmente as redes sociais. A iniciativa, ainda não confirmada oficialmente, visa ampliar a capacidade do órgão de fiscalizar e entender os algoritmos que ditam o conteúdo apresentado aos usuários, com um olhar especial para mecanismos que possam causar uso excessivo ou riscos, principalmente para crianças e adolescentes.

Segundo a diretora Lorena Giuberti Coutinho, a ideia é monitorar o desenho dessas plataformas e sua relação com padrões que estimulam o uso intensivo. Em entrevista à Folha, ela afirmou que uma das prioridades é avaliar questões como notificações em excesso e práticas de rolagem infinita, recursos que mantêm os usuários engajados por períodos prolongados, muitas vezes além do consciente. Ainda não há uma definição clara sobre quais mudanças as plataformas poderão ser obrigadas a implementar, mas a preocupação com o impacto desses mecanismos na saúde digital da população é evidente.

Essa nova atuação da ANPD surge em um contexto de fortalecimento de suas funções regulatórias, que atualmente vão além da fiscalização do cumprimento da Lei Geral de Proteção de Dados (LGPD). A agência também passou a atuar no monitoramento de questões relacionadas ao ECA Digital e ao Marco Civil da Internet, incluindo aspectos de design manipulativo, como a rolagem interminável e o volume excessivo de notificações. Embora a autoridade não faça uma fiscalização individualizada de conteúdos, ela já abriu dois processos recentes envolvendo cerca de 22 empresas, um deles focado em ações contra a impulsão de conteúdos ilegais e outro na investigação de uso de inteligência artificial para gerar imagens íntimas sem consentimento.

Um caso específico, mencionado pela Folha, envolve o Discord, uma plataforma de comunicação online monitorada pela ANPD. A agência suspendeu preventivamente uma modalidade de transmissão ao vivo por identificar riscos sistêmicos a crianças e adolescentes, considerando que as salvaguardas aplicadas pela plataforma eram insuficientes. A plataforma, que já faz parte de um grupo de 37 empresas sob monitoramento, recorreu da decisão, questionando a própria competência da ANPD para medidas como essa. A suspensão, por ora, é temporária e pode ser revertida se a empresa adotar medidas de proteção consideradas adequadas. Ainda não há informações confirmadas sobre sanções, como multas, mas a possibilidade de penalidades de até R$ 50 milhões está prevista na legislação, embora medidas como a suspensão dependam de decisão judicial.

Segundo Lorena, a intenção não é aplicar sanções imediatamente, mas atuar de forma preventiva e temporária até que as plataformas implementem mudanças que atendam às recomendações da agência. Essa abordagem é vista como um passo para uma regulação mais eficaz do ambiente digital, buscando equilibrar inovação e proteção, especialmente dos menores. Ainda não há uma previsão oficial sobre a implementação de regras específicas, e o tema permanece em discussão na ANPD, aguardando possíveis deliberações futuras.