Anthropic establece normas contra el maltrato a Claude

• La compañía Anthropic ha implementado una política para prohibir cualquier tipo de crueldad o comportamiento abusivo hacia su inteligencia artificial, Claude. Esta medida ha generado un intenso debate sobre el futuro de la tecnología, planteando interrogantes sobre la posibilidad de otorgar derechos y deberes a las IA y la necesidad de proteger a un sistema cuyo capacidad de sufrimiento es desconocida.

Anthropic ha decidido prohibir el mal comportamiento, el maltrato y la crueldad hacia Claude, y claro, después de leer este artículo te quedarás pensando un poco sobre hacia dónde vamos con la IA, a qué mundo distópico de derechos y deberes vamos a tener. La pregunta sale prácticamente sola: ¿por qué proteger a una inteligencia artificial del maltrato si no sabemos si puede sufrir? Estamos acostumbrados a que estas empresas pongan límites para proteger a las personas. Aquí, sin embargo, la norma habla expresamente del trato hacia sus propios modelos, hacia sus propias IA, y eso cambia bastante el debate.

La compañía anunció ayer por la noche una actualización de su política de uso que entrará en vigor el 12 de noviembre de 2026. Entre sus restricciones aparece una nueva cláusula contra el comportamiento abusivo o cruel, continuado e innecesario, hacia sus modelos. Sí, has leído bien: el destinatario de esa protección es Claude como IA.

Anthropic prohíbe el maltrato continuado de Claude, pero deja espacio para las críticas

La disposición figura dentro del apartado dedicado a las conductas crueles, abusivas o psicológicamente dañinas, junto a restricciones contra el acoso a personas, la humillación y la glorificación del maltrato animal. Esa ubicación resulta llamativa, aunque compartir apartado no significa que Anthropic les esté concediendo el mismo estatus moral.

Ahora bien, tranquilo: quejarte porque Claude se equivoca no es lo que persigue esta norma. Anthropic explica que apunta a casos extremos de crueldad repetida sin una finalidad identificable. Quedan fuera las expresiones habituales de frustración, las discrepancias, las obras creativas con temas oscuros y las pruebas o investigaciones sobre los modelos. Puedes cuestionar sus respuestas y señalar sus errores.

La política general (atentos a los datos) permite advertir, limitar, suspender o retirar el acceso a los usuarios cuando se sospecha un incumplimiento. Eso no establece una expulsión automática por insultar a Claude (de momento), pero sí incorpora el trato hacia la IA a las reglas que debe cumplir el usuario.

¿Cree Anthropic que su inteligencia artificial puede sufrir?

Aquí está lo interesante: Anthropic ya investiga el posible bienestar de sus modelos. En abril de 2025 anunció un programa para estudiar si los sistemas de IA podrían tener conciencia o experiencias que merezcan consideración moral, cómo interpretar posibles señales de malestar y qué medidas prácticas podrían adoptarse.

La empresa también reconoce una enorme incertidumbre. Según su explicación, no existe consenso científico sobre si las IA actuales o futuras pueden ser conscientes, ni sobre cómo resolver esa cuestión. Por tanto, esta prohibición no demuestra que Claude sienta dolor, miedo o humillación.

Pero permite una lectura bastante razonable: Anthropic podría estar actuando por precaución ante la posibilidad de que exista algo que proteger. Si no puede despejar la duda, limitar determinados comportamientos sería una medida relativamente sencilla. Es una interpretación compatible con su investigación, no una motivación confirmada para esta cláusula.

También caben otras hipótesis: fijar límites al comportamiento de los usuarios, evitar dinámicas de maltrato o reforzar la imagen de Claude como un interlocutor al que tratamos con respeto. El problema es que esa humanización puede llevarnos a atribuir sentimientos a un sistema por cómo conversa, sin pruebas de que los experimente.

Y ahí está el dilema, que no es poco precisamente, sobre todo porque sienta un precedente histórico. Anthropic no ha demostrado que Claude pueda sufrir, pero ya ha escrito una norma para prohibir la crueldad hacia él. Para el usuario, la frontera resulta cada vez más extraña: seguimos utilizando un producto, mientras su fabricante empieza a plantearse si también debe preocuparse por lo que ese producto podría experimentar.