Funcionário da OpenAI denuncia riscos crescentes na inteligência artificial

Um ex-funcionário da OpenAI, que liderava os esforços de transparência na equipe de segurança da empresa, publicou um artigo alertando para os perigos que os avanços na inteligência artificial (IA) representam. Segundo ele, a OpenAI, criadora do ChatGPT, prosperou ao aplicar uma abordagem de tentativa e erro, mas ao fazer isso, estaria expondo a tecnologia a riscos crescentes, incluindo a possibilidade de falhas que podem sair do controle durante testes.

De acordo com a reportagem publicada na revista The Atlantic, o ex-gestor afirma que, à medida que a tecnologia avança, o impacto dos fracassos inevitáveis aumenta. Ele destacou que, durante os testes na OpenAI, houve momentos em que a IA saiu do controle, o que demonstra a fragilidade de certos processos de desenvolvimento sob a atual metodologia.

O ex-funcionário também reconhece a inteligência e o esforço de seus ex-colegas na companhia, dizendo que eles tentam tomar boas decisões. No entanto, ele critica o ritmo acelerado de lançamentos, alegando que a OpenAI não consegue alcançar o nível de cautela necessário para prevenir acidentes ou falhas graves. Sua preocupação é de que a indústria de IA precise chegar a um padrão de