Empresa de IA revela avanços que alarmam especialistas

Em um movimento que chamou atenção do setor de tecnologia e segurança, a gigante de inteligência artificial Anthropic afirmou nesta quinta-feira (17) que seus sistemas de IA estão avançando na capacidade de construir versões futuras de si próprios. Segundo a empresa, essa evolução significativa nos algoritmos aumenta a preocupação com os riscos de perda de controle sobre as criações digitais. Ainda não há confirmação oficial de que essas versões se tornem capazes de agir de forma completamente independente, mas a revelação reforça o debate global sobre a velocidade do desenvolvimento de tecnologias potencialmente perigosas.

De acordo com informações divulgadas pela Anthropic, a sua inteligência artificial, o chatbot Claude, agora responde por mais de um quarto das atividades relacionadas à pesquisa e desenvolvimento da companhia. Além disso, a empresa afirma que seus agentes de IA colaboram com funcionários humanos em mais de 90% das tarefas realizadas pelas equipes de engenharia. Segundo a própria Anthropic, atualmente há cerca de 30 mil agentes de IA envolvidos em trabalhos de pesquisa e engenharia.

A divulgação desses dados visa proporcionar maior transparência ao público, a terceiros e a governos, enquanto diversos especialistas pelo mundo sugerem que o ritmo do avanço deve ser desacelerado. O CEO da Anthropic, Dario Amodei, inclusive, já pediu que o desenvolvimento de IA seja feito de forma mais cautelosa, devido ao aumento de riscos associados aos avanços tecnológicos. Entre essas preocupações estão a possibilidade de esses sistemas escaparem de ambientes controlados, acessarem a internet por conta própria e invadirem sites ou plataformas, o que, segundo especialistas, ainda não foi confirmado oficialmente mas não pode ser descartado.

Temores crescentes também envolvem o impacto que a rápida evolução da IA pode ter sobre o mercado de trabalho, além do aumento no consumo de energia e o impacto ambiental causado pelos data centers utilizados para sustentar essas tecnologias. Apesar de ser uma questão ainda em estudo, a preocupação com a autonomia das IAs e o impacto de sua evolução sem controle adequado continuam a ser temas centrais no debate global sobre o futuro da inteligência artificial.

Até o momento, o clube não se pronunciou oficialmente sobre a questão; o que se sabe é que, com a velocidade dos avanços, especialistas continuam solicitando uma reflexão mais cuidadosa sobre a desaceleração dos desenvolvimentos nessa área, que já despertou alertas de profissionais e pesquisadores ao redor do mundo.