Especialistas alertam para avanço acelerado da inteligência artificial e possíveis riscos
Cientista-chefe da OpenAI lança alerta sobre ritmo de desenvolvimento de IA e desafios na segurança
Segundo pesquisadores, o progresso da IA pode chegar a um ponto de autoaperfeiçoamento recursivo, exigindo atenção internacional para manter o controle. O cientista Pachocki destaca avanços desde 2023, envolvendo capacidades complexas e riscos crescentes.
O avanço da inteligência artificial (IA) tem despertado cada vez mais atenção no mundo tecnológico. Segundo informações divulgadas pelo cientista-chefe da OpenAI, Pachocki, há uma forte expectativa de que o ritmo atual de desenvolvimento possa continuar evoluindo até atingir um estágio conhecido como autoaperfeiçoamento recursivo, ou RSI, na sigla em inglês. Essa fase seria marcada por sistemas de IA capazes de impulsionar continuamente seu próprio aprimoramento, o que, na visão dele, demanda intervenções mais amplas para garantir que o progresso tecnológico permaneça sob controle humano.
De acordo com Pachocki, uma mudança significativa ocorreu a partir de 2023, após resultados do projeto de pesquisa RLSlow terem reforçado a confiança da equipe na possibilidade de ampliar o treinamento de modelos de raciocínio. Em apenas três anos, esses sistemas já demonstram habilidades complexas: operam computadores, manipulam interfaces gráficas, colaboram com humanos e outras IAs, além de participarem de projetos de pesquisa e apresentarem avanços na segurança cibernética. Entretanto, ele também destacou que esses modelos se tornaram mais difíceis de interpretar, uma consequência do funcionamento interno extremamente complexo do deep learning, que é uma técnica de aprendizado de máquinas baseada em redes neurais profundas.
Pachocki explicou que a inteligência gerada por esses sistemas não é diretamente comparável à humana. Ele ressaltou que, à medida que essas IAs superam as capacidades humanas em várias áreas, torna-se mais difícil compreender exatamente o que esses sistemas são capazes de fazer de fato. Segundo o cientista, isso acontece porque os modelos são mais
O que sabemos?
- O progresso da IA pode atingir nível de autoaperfeiçoamento recursivo, impulsionado por sistemas capazes de aprimorar a si mesmos.
- Desde 2023, sistemas de IA com resultados de pesquisa como RLSlow demonstram capacidades avançadas, incluindo operação de computadores e colaboração com humanos.
- À medida que avançam, as IAs ficam mais difíceis de interpretar devido à sua complexidade e funcionamento interno.
- Futuros sistemas de IA deverão manter valores humanos mesmo sem supervisão direta, mas essa tarefa apresenta desafios.
Fontes
- Olhar Digital fonte especializada
