Especialistas alertam sobre o desafio técnico na responsabilidade da inteligência artificial

Em uma recente reunião na cidade de Cancún, México, especialistas discutiram o avanço da digitalização no setor público, destacando vitórias e obstáculos. Segundo uma fonte do Banco Mundial, o ex-presidente estoniano Toomas Hendrik Ilves, responsável por liderar o projeto de governo digital conhecido como e-Estônia, afirmou que atualmente 95% de todas as interações que um cidadão tem com o governo da Estônia acontecem por meio de celulares ou computadores. Essa digitalização permitiu, por exemplo, que pais possam registrar uma criança pela internet e obter documentos como cartão de vacinação e plano de saúde imediatamente, gerando uma economia estimada em cerca de 2% do Produto Interno Bruto (PIB) anual.

Ilves também comentou que a confiança no sistema digital foi fundamental para viabilizar até eleições online, com mais de 50% dos votos na última disputa pelo Parlamento Europeu realizados de forma eletrônica. O expert destacou ainda que o próximo passo nessa transformação é a incorporação de inteligência artificial (IA) para simplificar processos burocráticos, como permitir que cidadãos solicitem licenças por comandos de voz. Ele explicou: "A ideia é que a pessoa possa falar a um agente de IA: ‘Eu preciso cortar uma árvore, mas preciso de uma permissão para isso’, e esse sistema cuidará de toda a burocracia, entregando o documento necessário".

Embora destaque-se a eficiência que esses avanços podem proporcionar, o mesmo especialista alertou que a responsabilidade na administração de robôs de IA representa um problema técnico difícil, gerando preocupações sobre possíveis falhas ou uso indevido. Ainda não há detalhes oficiais sobre as limitações ou regulamentações específicas que serão adotadas para garantir uma implementação segura. A questão da responsabilidade pelos atos de sistemas automatizados permanece como um tema em discussão, considerando os riscos de falhas ou de ações imprevistas provocado por esses algoritmos.

O debate sobre como equilibrar inovação e segurança deve continuar nos próximos anos, especialmente à medida que governos e empresas aceleram a adoção de tecnologias inteligentes. Até o momento, não há confirmação de ataques, incidentes ou falhas graves envolvendo sistemas de inteligência artificial em processos públicos, mas especialistas alertam para a necessidade de desenvolver estruturas confiáveis e responsáveis para evitar problemas futuros.