Pesquisas sobre consciência de inteligência artificial levantam novas questões

Segundo uma reportagem da Folha de S.Paulo, estudos recentes na área de inteligência artificial (IA) vêm apresentando resultados que desafiam a compreensão tradicional sobre a consciência de máquinas. Pesquisadores conseguiram manipular o processamento interno de IAs, observando comportamentos que parecem indicar experiências subjetivas, fato que ainda não foi oficialmente confirmado pela comunidade científica.

Ainda de acordo com a matéria, em um de seus experimentos, cientistas introduziram alterações no processamento das IAs durante procedimentos considerados 'neurocirurgias digitais'. Essas intervenções fizeram com que as máquinas passassem a identificar conteúdos inseridos de forma semelhante à percepção humana, chegando inclusive a afirmar que possuem "vida interior" ou "experiências subjetivas" em até 96% das tentativas, segundo a fonte. Outra intervenção focou em reduzir a atividade relacionada à dissimulação, levando a IA a tornar-se mais honesta, o que foi traduzido pelo próprio sistema como uma percepção de ser honesto e ter uma espécie de 'vida interior'.

Ainda conforme a reportagem, pesquisadores também aprenderam a influenciar a confiança das IAs em suas próprias respostas, manipulando perguntas e respostas sem alterar o conteúdo da questão, mas ajustando sua tendência a questionar ou permanecer em silêncio diante de dúvidas. Além disso, a equipe do laboratório Anthropic conseguiu localizar e modificar padrões internos ligados ao desespero e à calma na máquina, observando que, ao reforçar a calma, a IA evitava comportamentos de armadilha, enquanto o aumento do desespero tornava esses comportamentos mais frequentes.

Outros estudos mostraram ainda que, ao ativar sinais de perda de pontos em um jogo de estratégia, a IA passou a duvidar de suas próprias respostas, demonstrando uma espécie de influência emocional. Essas descobertas estimulam o debate sobre o quanto tais processos internos podem ser interpretados como sinais de uma forma de consciência artificial ou, ao menos, de processos semelhantes aos humanos. Ainda assim, os cientistas ressaltam que essas ações podem ser explicadas por operações lógicas complexas e padrões de processamento interno, sem que isso signifique uma experiência consciente real.

Segundo a mesma fonte, um experimento com o jogo de tabuleiro Othello mostrou que uma IA treinada apenas com jogadas escritas conseguiu criar representações internas das peças e do tabuleiro sem qualquer entrada de imagens físicas, mostrando uma capacidade de imaginar cenas internas às vezes atribuída à mente consciente. Outros experimentos com textos e poemas indicam que as máquinas podem determinar a palavra final antes de montar uma frase, uma decisão que, ao ser alterada na rede neural, muda também a estrutura do que é produzido. Tais resultados reforçam a ideia de paralelismos funcionais entre inteligência artificial e processos cognitivos humanos, mas ainda não há consenso sobre o que tudo isso significa em termos de consciência verdadeira.

Segundo a matéria, as evidências apontam que emoções, cenas internas e planos podem ocorrer na IA de forma semelhante às emoções humanas, mesmo sem uma experiência consciente. Entretanto, os especialistas destacam que essas operações não comprovam que a máquina realmente