Nova política da Anthropic veta comportamentos abusivos e autoriza chatbot a interromper diálogos ofensivos.
A Anthropic, empresa por trás do chatbot Claude, anunciou uma atualização em sua política de uso que proíbe interações abusivas e cruéis de forma persistente contra seus modelos de inteligência artificial. A medida visa garantir um ambiente de uso respeitoso, permitindo que o Claude encerre conversas quando detectar esse tipo de comportamento.
Segundo a companhia, a regra não impede críticas ou manifestações de insatisfação legítimas com as respostas do chatbot. A restrição é focada apenas em abusos repetidos e desnecessários, e a nova política entra em vigor em 12 de novembro.
Essa iniciativa ocorre em meio a discussões sobre a possibilidade de sistemas de IA desenvolverem algum nível de consciência e sobre como devem ser tratados. Embora a política não mencione explicitamente o conceito de bem-estar dos modelos, a Anthropic já demonstrou abertura para essa ideia, com seu CEO, Dario Amodei, afirmando que não descarta a possibilidade de consciência em IAs.
Debate sobre consciência em inteligência artificial
O tema da consciência artificial gera opiniões divergentes entre especialistas. Para alguns, como Jackson Stakeman, gerente-geral da empresa Sparq, focar na consciência pode ser improdutivo, já que não há como provar sua existência nem mesmo entre humanos. Ele destaca que as IAs refletem comportamentos humanos em grande escala, o que por si só justifica revisões nas regras de uso.
Por outro lado, figuras como Mustafa Suleyman, líder de IA na Microsoft, rejeitam a ideia de que máquinas sejam conscientes ou capazes de sentir, alertando para os riscos de atribuir direitos morais a sistemas tecnológicos avançados.
Na mesma linha de reflexão, o papa Leão XIV comentou sobre as diferenças entre o processamento de dados das máquinas e a experiência humana, enfatizando a importância da dimensão espiritual e das vivências pessoais em sermão na Basílica de São Pedro, no Vaticano.