Anthropic proíbe comportamento cruel contra Claude em novas regras

A desenvolvedora de inteligência artificial Anthropic atualizou sua política de uso pela primeira vez em mais de um ano. A revisão introduz regras contra usos de alto risco, como interferência eleitoral, vigilância e armamentos, além de proibir expressamente comportamentos abusivos ou cruéis e sem justificativa contra o modelo Claude.

A empresa afirmou que o encerramento da conversa continua sendo o principal mecanismo de aplicação, expandindo uma diretriz de agosto que autorizava o Claude a encerrar diálogos com usuários abusivos. A Anthropic ressaltou que a medida se destina a casos extremos de crueldade reiterada, não incidindo sobre pesquisas, temas criativos densos ou a frustração comum dos usuários.

As diretrizes atualizadas também consolidam restrições contra campanhas comerciais ou políticas enganosas, proibindo a ocultação de autoria ou a amplificação de conteúdo por meio de contas falsas. No âmbito eleitoral, a regra veda a disseminação de dados falsos sobre votações, a personificação de candidatos e tentativas de desestimular o comparecimento às urnas.

A proibição ao desenvolvimento de armas passou a incluir softwares e componentes de controle ou o armamento de veículos autônomos, após a detecção de tentativas de uso do Claude para sistemas de orientação bélica. A companhia também vetou o rastreamento não autorizado de indivíduos e o uso do modelo para sugerir ou embasar prisões por autoridades policiais, com exceções possíveis apenas para contratos governamentais com salvaguardas estritas.

Uma nova regra exige ainda que qualquer sistema conectado a equipamentos físicos capazes de causar ferimentos conte com um operador qualificado capaz de interromper a operação. A discussão sobre bem-estar dos modelos reflete estudos internos da Anthropic, enquanto rivais mantêm postura contrária, como a divisão de inteligência artificial da Microsoft, que declarou em setembro rejeitar direitos ou personalidade jurídica para modelos de inteligência artificial.