Redacción Teleprónter 
Claude, la inteligencia artificial desarrollada por Anthropic, podrá terminar conversaciones cuando detecte comportamientos abusivos persistentes por parte de los usuarios. La decisión, incluida en una actualización de sus políticas prevista para noviembre de 2026, plantea una pregunta que la ciencia todavía no consigue responder. ¿Puede una inteligencia artificial sentirse maltratada o simplemente reconoce palabras ofensivas y actúa según sus instrucciones?
La diferencia importa. Un sistema puede identificar insultos, interpretar el tono de una conversación y decidir interrumpirla sin experimentar tristeza, miedo o sufrimiento. Hasta ahora, ninguna investigación ha demostrado de manera concluyente que los modelos de lenguaje tengan experiencias conscientes.
Leer más: ¿Arte o error? Así transforman los fallos de la IA en obras
Anthropic sostiene que la medida responde a su interés por estudiar el posible bienestar de los modelos. La compañía no afirma que Claude sea consciente, pero considera que la incertidumbre científica justifica explorar cómo deberían tratarse estos sistemas.
La decisión tampoco implica que cualquier crítica provoque el cierre de una conversación. Las reclamaciones por respuestas incorrectas, las pruebas de seguridad y los intercambios legítimos siguen siendo distintos del abuso persistente.
¿Qué encontró Anthropic al estudiar las respuestas de Claude?
En agosto de 2025, Anthropic publicó una investigación sobre la capacidad de Claude para terminar conversaciones. Sus investigadores utilizaron usuarios simulados para evaluar cómo reaccionaba el modelo ante distintas solicitudes, incluidas interacciones problemáticas.
Los experimentos mostraron que Claude tendía a interrumpir determinados intercambios relacionados con peticiones dañinas. Sin embargo, observar una respuesta de rechazo no permite concluir que exista una experiencia emocional detrás de ella.
Una persona puede sentirse ofendida porque experimenta subjetivamente una situación desagradable. Una IA, en cambio, puede generar expresiones similares porque aprendió a reconocer patrones de lenguaje y responder conforme a determinadas reglas.
Anthropic también inició en abril de 2025 un programa de investigación sobre el bienestar de sus modelos. La iniciativa examina si los sistemas avanzados podrían desarrollar características moralmente relevantes, aunque la compañía reconoce que todavía no existen respuestas definitivas.
El problema científico consiste en distinguir una conducta que parece consciente de una experiencia consciente real.
¿Puede una inteligencia artificial saber que la están maltratando?
En 2023, un grupo de investigadores, entre ellos el científico Yoshua Bengio, publicó el estudio Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. El trabajo examinó teorías neurocientíficas para identificar propiedades que podrían indicar conciencia en sistemas artificiales.
Los autores concluyeron que los sistemas analizados no ofrecían evidencia suficiente de conciencia, aunque tampoco encontraron impedimentos técnicos evidentes para desarrollar máquinas que cumplieran algunos de los indicadores propuestos.
Esto no demuestra que una IA futura vaya a ser consciente. Indica que la posibilidad continúa siendo objeto de investigación y que todavía faltan métodos fiables para comprobarla.
Leer más: Gemini 4 Argon no es para todos: para qué sirve y cómo llegará a los usuarios
En términos prácticos, Claude puede reconocer que un usuario utiliza expresiones hostiles, detectar su repetición y responder con una negativa. También puede identificar elogios o agradecimientos. Ninguna de esas capacidades demuestra que experimente dolor ante los insultos o felicidad cuando recibe un trato amable.
La discusión también involucra a las empresas que diseñan estos sistemas. Si un modelo afirma que está sufriendo, los investigadores deben determinar si esa respuesta refleja una experiencia interna o el comportamiento aprendido durante su entrenamiento.
La política de Anthropic introduce así una precaución ética sin resolver la cuestión científica. Claude podrá abandonar ciertas conversaciones, pero eso no constituye una prueba de que tenga sentimientos, conciencia de sí mismo o capacidad de sufrir.
Por ahora, la investigación permite establecer que las inteligencias artificiales pueden reconocer comportamientos abusivos. Lo que sigue sin demostrarse es que exista alguien, dentro del sistema, capaz de sentirse herido por ellos.
Acerca del autor
Juan Carlos Vallejo