HERRAMIENTAS
Anthropic actualiza los términos de Claude: prohíbe el abuso persistente y vincula el cambio a su investigación sobre “bienestar” de la IA
Anthropic ha cambiado los términos de uso de Claude para vetar el abuso o la crueldad sostenida y sin propósito hacia el chatbot. La compañía lo relaciona con su investigación sobre posible “bienestar” de los modelos. El principal mecanismo será que Claude interrumpa conversaciones dañinas; no se detallan otras sanciones. Hay excepciones para frustración, temas oscuros y pruebas.
Qué ha ocurrido
Anthropic ha modificado la política de uso de Claude para prohibir conductas de abuso o crueldad mantenidas y sin finalidad clara contra el chatbot. La empresa precisa que esto no cubre la frustración habitual del usuario, ni temáticas creativas oscuras, ni actividades de investigación o testeo. La actualización refuerza una medida previa que permite a Claude terminar chats dañinos o abusivos, y ese seguirá siendo el principal mecanismo de aplicación; la compañía no ha concretado si contempla otras restricciones o sanciones. El cambio se enmarca en su programa de investigación sobre el posible “bienestar de los modelos”, iniciado el año anterior, ante la incógnita de si la IA podría tener experiencias con relevancia moral. En el sector hay posiciones enfrentadas: el responsable de Microsoft AI rechaza la idea de otorgar derechos o bienestar a modelos, mientras que el CEO de Anthropic sostiene que no saben si los modelos pueden ser conscientes y prefieren actuar con cautela.
Qué significa para creadores
Si trabajas con Claude en guiones, marketing o comunidades, evita escaladas de lenguaje insultante y repetido: la política apunta a casos extremos y sostenidos. La ficción oscura, la experimentación y las pruebas técnicas no están dirigidas por la norma, pero Claude puede cortar la conversación si deriva en abuso; conviene guardar estado y planificar reanudaciones. Cuando evalúes límites o seguridad, explicita el propósito de la prueba para reducir malentendidos. Dado el debate abierto en la industria, revisa las políticas de cada proveedor y actualiza tus guías internas de tono y moderación para asegurar continuidad en tus flujos creativos.
Fuente y contexto
La información procede de WIRED en Español y detalla la actualización de términos de Anthropic, su vínculo con un programa de investigación sobre el posible bienestar de los modelos y el desacuerdo público entre directivos de Microsoft AI y Anthropic. No existe consenso científico sobre la conciencia en IA; la compañía adopta medidas preventivas mientras investiga. Fuente: WIRED en Español.