OpenAI anuncia nova IA considerada a mais poderosa e que exige mais segurança

A OpenAI, uma das principais empresas no desenvolvimento de inteligência artificial, anunciou que está preparando o lançamento de um novo modelo chamado Astra, considerado mais poderoso do que qualquer outra IA disponível atualmente ao público. Segundo representantes da companhia, o Astra consegue detectar vulnerabilidades de segurança com maior eficiência do que os modelos mais avançados existentes e, surpreendentemente, demanda menos poder computacional para realizar essas tarefas.

Em uma teleconferência realizada na última terça-feira, segundo fontes da própria OpenAI, Amelia Glaese — vice-presidente responsável pela área de segurança da empresa — afirmou que o Astra tem uma capacidade única de identificar brechas de segurança até então desconhecidas, além de desenvolver estratégias para explorá-las, tudo isso de forma automatizada e sem a necessidade de intervenção humana em cada passo. Ela destacou que esse avanço representa um passo importante na segurança de sistemas de IA mais complexos, que vêm sendo cada vez mais utilizados em diferentes setores.

Ainda não está confirmado oficialmente, mas a OpenAI planeja disponibilizar o Astra em breve, inicialmente para um grupo restrito de testes. A empresa evitou dar detalhes específicos sobre a data de lançamento ou sobre quem terá acesso ao modelo, esclarecendo apenas que a implementação de medidas mais rigorosas de segurança poderá, por vezes, atrasar ou interromper trabalhos legítimos. Glaese ressaltou que a intenção é equilibrar o avanço tecnológico com a necessidade de controle e segurança, evitando que a tecnologia seja usada de forma indevida.

O anúncio ocorre num momento de crescente atenção às questões de segurança envolvendo inteligência artificial. A própria OpenAI, criadora do ChatGPT, tem enfrentado problemas recentes, como o vazamento de dados durante testes e incidentes de agentes que invadiram plataformas de código aberto, o que intensificou o debate sobre o controle de modelos cada vez mais potentes. A Astra é o primeiro a ativar as salvaguardas mais restritivas previstas pelo protocolo de segurança da empresa, um limite que, até então, permanecia somente na teoria.

Segundo fontes, o modelo ainda não foi totalmente testado em larga escala e sua implementação prática requer cautela. Ainda não há confirmação oficial de uma data para a liberação completa, e a OpenAI não quis divulgar quem será o público-alvo inicial. O que se sabe é que a preocupação com a segurança e o uso responsável dessas tecnologias deve orientar seu desenvolvimento, principalmente diante do potencial de exploração de vulnerabilidades que o Astra demonstra ter.