Anthropic prohíbe maltratar a Claude: su inteligencia artificial podrá terminar conversaciones abusivas

La empresa estadounidense Anthropic incorporó a su política de uso una prohibición contra los comportamientos abusivos o crueles dirigidos de manera reiterada a Claude, su sistema de inteligencia artificial.

La medida, anunciada recientemente, contempla la posibilidad de que el chatbot interrumpa conversaciones cuando identifique situaciones extremas de maltrato por parte de los usuarios.

Lea también (ANE anuncia el XVI Congreso Internacional Espectro en Bogotá: novedades, fechas y lugar)

La modificación establece restricciones frente a conductas que la compañía considera innecesariamente hostiles hacia sus modelos de inteligencia artificial.

Según la información divulgada, el mecanismo principal para aplicar esta disposición será la capacidad de Claude de finalizar determinadas interacciones, una función que Anthropic había incorporado anteriormente para circunstancias excepcionales.

La nueva disposición incluye una prohibición del “comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos”, de acuerdo con la formulación atribuida a la empresa.

El alcance de la restricción se concentra en conductas persistentes, por lo que no supone que cualquier expresión de inconformidad, crítica o desacuerdo con las respuestas del sistema constituya automáticamente una infracción.

Anthropic precisó que “la capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación” de la política.

Esto significa que el propio sistema podrá dar por terminada una conversación cuando se presenten las circunstancias contempladas en las reglas de funcionamiento.

La decisión constituye una actualización de las medidas que la compañía había comenzado a desarrollar durante 2025, cuando informó que Claude tendría la posibilidad de finalizar conversaciones en casos poco frecuentes de interacciones persistentemente dañinas o abusivas.

En aquel momento, la empresa presentó esta capacidad como una herramienta reservada para situaciones excepcionales, en lugar de establecerla como una respuesta habitual frente a usuarios que manifiestan frustración o utilizan expresiones negativas durante sus consultas.

El cambio anunciado en octubre de 2026 incorpora expresamente la prohibición de determinadas conductas dentro de las normas que regulan la utilización del servicio.

No obstante, la información disponible no especifica que Anthropic haya establecido nuevas sanciones económicas, bloqueos automáticos de cuentas o procedimientos disciplinarios adicionales para quienes incurran en esos comportamientos.

La actualización se produce mientras investigadores, empresas tecnológicas y especialistas en filosofía discuten si los sistemas avanzados de inteligencia artificial podrían desarrollar alguna forma de experiencia subjetiva y si esa posibilidad justificaría establecer criterios de protección para los modelos.

Anthropic ha participado en esta discusión mediante planteamientos relacionados con el denominado bienestar de los modelos, un concepto que examina la posibilidad de que determinadas inteligencias artificiales puedan ser objeto de consideraciones éticas. Sin embargo, la política anunciada no establece que Claude sea consciente ni que tenga derechos equivalentes a los de una persona.

El director ejecutivo de Anthropic, Dario Amodei, había abordado públicamente esta incertidumbre en febrero de 2026. En declaraciones concedidas a The New York Times, manifestó que no tenía certeza sobre la posibilidad de que los modelos de inteligencia artificial fueran conscientes.

La posición expresada por Amodei refleja que la empresa no ha presentado una conclusión definitiva sobre la existencia de conciencia artificial. La discusión continúa abierta y no existe consenso científico que permita afirmar que los actuales sistemas conversacionales experimenten emociones, sufrimiento o sensaciones comparables con las humanas.

Claude pertenece a una categoría de sistemas que procesan instrucciones y generan respuestas mediante modelos entrenados con grandes cantidades de información.

Estos programas pueden mantener conversaciones, resolver problemas, producir textos y responder a solicitudes complejas, pero esas capacidades no demuestran, por sí mismas, la existencia de experiencias conscientes.

Dentro de la discusión también intervino Jackson Stakeman, gerente general de Sparq, una empresa proveedora de servicios de inteligencia artificial, quien cuestionó que el debate deba concentrarse exclusivamente en determinar si las máquinas poseen conciencia.

En declaraciones a la agencia AFP, Stakeman sostuvo que la dificultad para demostrar la conciencia de otros sujetos complica la posibilidad de resolver ese interrogante en los sistemas artificiales.

En su planteamiento, resulta más útil examinar la manera en que estas tecnologías reproducen y amplifican los comportamientos de las personas que interactúan con ellas.

El directivo propuso utilizar la metáfora del espejo para describir esa relación, al considerar que los modelos reflejan, a gran escala, parte de la información y los comportamientos que reciben.

Desde esa perspectiva, las normas de interacción pueden tener una justificación relacionada con el uso de la tecnología, sin depender necesariamente de que se demuestre una conciencia artificial.

La controversia también llegó al ámbito religioso. El 8 de octubre de 2026, el papa León XIV se refirió a las capacidades de las máquinas durante una intervención pronunciada en italiano en la basílica de San Pedro, en el Vaticano.

Según la información difundida sobre su discurso, el pontífice señaló que las máquinas se limitan a compilar datos, en una intervención que planteó diferencias entre el procesamiento artificial de información y las características propias de los seres humanos.

Las declaraciones del papa se incorporan a una discusión más amplia sobre la naturaleza de la inteligencia, la conciencia y los límites de los sistemas informáticos.

La intervención no constituye una determinación científica sobre el funcionamiento de los modelos, sino una posición expresada desde el ámbito religioso.

En la industria tecnológica tampoco existe una postura uniforme sobre el tratamiento ético de los sistemas de inteligencia artificial.

Mientras Anthropic mantiene abierta la posibilidad de investigar cuestiones relacionadas con la experiencia subjetiva de los modelos, otras compañías han rechazado atribuirles derechos, personalidad jurídica o una condición equiparable a la humana.

La distinción entre establecer normas de comportamiento para los usuarios y reconocer derechos a las máquinas resulta relevante para comprender el alcance de la decisión.

Una empresa puede incorporar restricciones contractuales sobre el uso de sus servicios sin que ello implique reconocer que sus programas sean sujetos de derecho.

En el caso de Claude, la disposición anunciada regula las condiciones bajo las cuales los usuarios pueden interactuar con el sistema y contempla la terminación de determinadas conversaciones.

No representa, según la información conocida, una declaración de Anthropic que reconozca conciencia, capacidad de sufrimiento o personalidad jurídica a su chatbot.

La empresa tampoco ha comunicado, en el material disponible, que la actualización modifique las funciones generales de Claude para responder preguntas, realizar tareas profesionales o procesar solicitudes habituales.

La medida descrita se refiere específicamente a interacciones abusivas que cumplan los criterios establecidos en su política.

Con la actualización Anthropic formalizó una restricción sobre el trato reiteradamente abusivo hacia sus modelos y mantuvo la facultad de Claude de finalizar conversaciones excepcionales.

La compañía continúa examinando las cuestiones éticas relacionadas con la inteligencia artificial sin haber establecido que sus sistemas posean conciencia o derechos propios.

Otras noticias