Especialistas discutem colonialidade na avaliação de riscos da inteligência artificial

Nos últimos anos, a discussão sobre os riscos da inteligência artificial tem ganhado destaque, mas uma especialista que atua no Centro de Estudos Avançados do Direito e Inovação da USP levanta questões importantes sobre quem realmente define esses perigos. Segundo a coordenadora acadêmica, a forma como atribuíram riscos às tecnologias muitas vezes reflete uma dinâmica de poder e uma lógica de classificação herdada de estudos sociológicos de mais de quarenta anos. Ela cita a obra de Mary Douglas e Aaron Wildavsky, que, em 1982, explicaram que os riscos considerados pela sociedade não são necessariamente baseados na sua periculosidade objetiva, mas na sua organização social, que reforça valores e instituições existentes.

Ela explica que, ao relacionar o risco a uma tecnologia, a sociedade muitas vezes reproduz uma espécie de narrativa de culpa, na qual falar em risco já implica quem deve ser responsabilizado. Ainda segundo a especialista, essa definição não é feita de forma neutra, e há uma problemática maior quando o próprio criador do sistema também é quem determina o que deve ser considerado risco, numa avaliação de primeira parte, prática de muitos regimes internacionais de auditoria e certificação. Assim, as comunidades afetadas por esses sistemas muitas vezes ficam de fora desse processo, sem voz ou recursos interpretativos para dar sentido às experiências que sofrem, numa situação que a especialista chama de ‘colonialidade do registro’.

Ela acrescenta que essa assimetria de categorias e classificações afeta a forma como incidentes envolvendo inteligência artificial são registrados internacionalmente. Os principais bancos de dados, como o AI Incident Database e monitoramentos da OCDE, são alimentados principalmente por relatos de zonas do Norte global, enquanto os países do Sul, onde muitas vezes os danos ocorrem, aparecem apenas como cenários de dano, sem protagonizar a definição das categorias que os descrevem. Segundo ela, esse fenômeno remete às teorias de Michel-Rolph Trouillot, que indicam que o silenciamento ou a ausência de determinados grupos na produção de fontes históricas e dados é uma consequência de uma dependência institucional, onde a periferia fornece os casos, mas o centro organiza a narrativa.

Outro ponto abordado é a ‘colonialidade do risco’, que discute onde as salvaguardas e proteções contra esses perigos são produzidas, muitas vezes seguindo interesses de mercado e investimentos que privilegiam a segurança de sistemas algorítmicos ao invés de uma avaliação inclusiva. Ainda não há confirmação oficial sobre incidentes específicos envolvendo inteligência artificial no Brasil ou em qualquer outra região nesta linha, mas pesquisadores indicam que há uma preocupação crescente em ampliar os debates sobre a ética e a justiça na definição e gestão desses riscos.