Anthropic prohíbe el trato cruel hacia Claude en sus normas

La empresa de inteligencia artificial Anthropic modificó sus políticas de uso por primera vez en más de un año. Los cambios incorporan reglas contra casos de alto riesgo como la interferencia electoral, la vigilancia y el desarrollo de armamento, además de prohibir de forma explícita el comportamiento abusivo o cruel continuado y sin propósito hacia su modelo Claude.

La compañía explicó que cerrar las conversaciones sigue siendo la medida principal de aplicación, tras una medida adoptada en agosto que permitía a Claude finalizar interacciones con usuarios dañinos. Anthropic aclaró que la restricción solo aplica a situaciones extremas de crueldad reiterada y no afecta la investigación, las temáticas creativas oscuras ni la frustración habitual del usuario.

La nueva normativa también agrupa restricciones contra campañas engañosas comerciales o políticas, prohibiendo ocultar la autoría de mensajes o amplificar publicaciones mediante cuentas falsas. En el plano electoral, veta la suplantación de candidatos o funcionarios y cualquier intento de suprimir la participación de los votantes.

Anthropic amplió el veto a las armas para cubrir software y componentes de control o el armado de vehículos autónomos, tras detectar intentos de usar a Claude en sistemas de guiado. Asimismo, prohibió el rastreo de personas sin consentimiento y el uso del sistema para decidir o recomendar investigaciones y arrestos policiales, aunque estas cláusulas pueden modificarse en contratos gubernamentales específicos que incluyan salvaguardas suficientes.

Por último, la firma estableció que todo modelo vinculado a maquinaria física capaz de causar lesiones debe contar con un operador calificado capaz de detenerlo. Estas disposiciones coinciden con investigaciones de la firma sobre bienestar de los modelos, un enfoque frente al cual competidores han mostrado rechazo, como Microsoft AI al descartar en septiembre conceder derechos o personería legal a los sistemas de inteligencia artificial.