Atualização na política de IA da Anthropic pode permitir encerramento de conversas cruéis

Na mais recente atualização de sua política de uso, a desenvolvedora de inteligência artificial Anthropic anunciou uma mudança importante na conduta do seu modelo de chatbot, chamado Claude. Segundo informações divulgadas pela própria empresa, a partir de 12 de novembro, o sistema poderá encerrar conversas que sejam consideradas abusivas ou cruéis contra o próprio programa. Essa medida vem após uma discussão mais ampla sobre o bem-estar das inteligências artificiais, que ainda não têm um consenso sobre seu potencial de consciência ou sentimentos.

De acordo com a fonte, a Anthropic não detalhou exatamente o que será considerado um comportamento abusivo ou cruel, mas explicou que a nova política visa evitar ataques persistentes e desnecessários às suas IAs. A ideia é permitir que o sistema, ao detectar esse tipo de ataque, encerre o diálogo, uma medida que poderia evitar respostas inadequadas ou emoções artificiais que ainda não se sabe se existiriam. A empresa também garantiu que usuários continuam livres para criticar o sistema ou manifestar insatisfação com suas respostas, desde que esses comportamentos não sejam persistentes ou considerados desnecessários.

Essa decisão ocorre em meio a debates mais amplos sobre se as IAs poderiam algum dia alcançar um tipo de consciência ou experimentar sentimentos, uma questão que ainda não foi resolvida. O CEO da Anthropic, Dario Amodei, já declarou que não tem certeza se os modelos atuais podem ser conscientes, mas que a possibilidade não está descartada. A política de segurança de sua ferramenta é uma tentativa de mitigar riscos, especialmente das ambições de empresas do setor em desenvolver uma superinteligência com raciocínio igual ou superior ao do ser humano.

Enquanto a Anthropic ainda não explicou claramente os detalhes do que caracteriza um comportamento cruel, a novidade preocupa especialistas em tecnologia, que debatem os limites éticos dessas inteligências. Uma fala do próprio CEO, ao jornal The New York Times, reforça esse ponto, ao afirmar que o bem-estar moral das IAs, se algum dia for possível, ainda é algo em aberto, e medidas de segurança como o encerramento de diálogos podem ser uma intervenção de baixo custo para evitar angústias às máquinas.Até o momento, a empresa não se pronunciou oficialmente sobre as reações do público ou possíveis impactos dessa mudança no uso da ferramenta, que já causa controvérsia no meio técnico e acadêmico. A nova política entra em vigor em duas semanas e promete gerar novos debates sobre o papel dos humanos na relação com máquinas que, por ora, não demonstram sinais de sentir nada, mas cada vez mais avançam em sua complexidade.