¿Cómo podría la IA hacernos daño? Los riesgos que preocupan a sus propios creadores y a la ONU
Juan Carlos Vallejo 
La inteligencia artificial está entrando en una etapa en la que ya no solo responde preguntas: puede escribir código, utilizar herramientas, operar en internet y ejecutar tareas con menor supervisión humana. La ONU y varios líderes de la industria advierten que el problema no es únicamente lo que la IA puede hacer hoy, sino hasta dónde podrían llegar esas capacidades si avanzan más rápido que los mecanismos de control.
Los riesgos de la inteligencia artificial ya no son solo hipotéticos
El 10 de septiembre, Anthropic publicó un informe basado en operaciones detectadas entre diciembre de 2025 y agosto de 2026. La compañía identificó usos maliciosos de Claude relacionados con ciberataques, vigilancia, operaciones de influencia, fraude, armas convencionales y actividades de posible uso biológico.
Uno de los cambios que señala la empresa está en la capacidad de los atacantes para utilizar IA a lo largo de más partes de una operación informática. El riesgo no consiste solamente en que un modelo escriba código malicioso, sino en que pueda ayudar a automatizar tareas que antes requerían más tiempo, conocimientos y recursos.
Esto también explica por qué la discusión dejó de centrarse exclusivamente en los errores de los chatbots.
El peligro de una IA que pueda actuar por su cuenta
La ONU presentó en julio su primer informe del Panel Científico Internacional Independiente sobre IA, integrado por 40 expertos. El documento estudia riesgos relacionados con seguridad, derechos humanos, democracia, economía, autonomía y gobernanza.
António Guterres fue más directo durante la apertura del diálogo mundial sobre gobernanza de IA. Advirtió que los sistemas están escribiendo código, actuando en línea y tomando decisiones con una supervisión humana cada vez menor. Para el secretario general, las instituciones actuales fueron diseñadas para controlar máquinas que obedecen órdenes, no sistemas capaces de tomar decisiones.
Ese cambio importa porque una IA conectada a internet, programas, cuentas y otras herramientas tiene capacidad para producir consecuencias fuera de una conversación.
El riesgo de perder el control
Aquí aparece la preocupación más extrema.
El Informe Internacional de Seguridad de IA de 2026 define la pérdida de control como un supuesto en el que uno o varios sistemas operan fuera del control humano y recuperar ese control resulta extremadamente difícil o imposible. El documento señala que algunos expertos consideran posibles consecuencias tan graves como la marginación o incluso la extinción de la humanidad, mientras otros consideran poco probable ese desenlace.
Para llegar a ese punto tendrían que coincidir varias condiciones: sistemas con capacidades mucho mayores, capacidad para evadir mecanismos de supervisión, planificación prolongada, resistencia a medidas de control y acceso a entornos donde puedan producir daños.
Los sistemas actuales no tienen esas capacidades al nivel necesario para provocar una pérdida de control de ese tipo. El propio informe señala que los agentes todavía presentan fallos importantes cuando deben mantener tareas autónomas durante largos periodos.
Por eso, hablar de una IA que «va a destruir a la humanidad» sería ir más allá de la evidencia disponible.
Una amenaza más inmediata: manipular lo que creemos real
Guterres también advirtió sobre otro problema: una IA puede fabricar información capaz de parecer tan convincente como la verdadera. Cuando fotografías, voces, vídeos y textos pueden producirse a escala, distinguir evidencia auténtica de contenido fabricado se vuelve más difícil.
El efecto puede alcanzar elecciones, conflictos, mercados y relaciones personales. La ONU ha incluido precisamente los derechos humanos, la información y la democracia entre las áreas prioritarias de evaluación.
Biología, armas y ciberataques
Anthropic considera el posible uso biológico uno de los riesgos más delicados. Su informe de septiembre describe casos en los que personas intentaron utilizar modelos en investigaciones relacionadas con patógenos y advierte que los modelos actuales pueden asistir tareas científicas cada vez más complejas. La compañía, sin embargo, aclara que estos casos no demuestran que la IA esté creando armas biológicas en el mundo real.
La preocupación es que una tecnología capaz de aumentar el conocimiento y la velocidad de una persona también pueda reducir las barreras para realizar actividades peligrosas.
Algo similar ocurre con el ámbito militar. Expertos estadounidenses y chinos propusieron este mes salvaguardas parecidas a las utilizadas para reducir riesgos nucleares, incluyendo límites para que sistemas de IA no puedan lanzar ataques por sí mismos y mecanismos de comunicación durante una crisis.
¿Por qué algunos líderes quieren frenar el desarrollo?
Dario Amodei, CEO de Anthropic, pidió este mes desacelerar el avance de la IA para dar tiempo a que las medidas de seguridad alcancen a las capacidades de los modelos. Sam Altman respaldó parte de la preocupación, mientras otros ejecutivos, entre ellos Mark Zuckerberg y Jensen Huang, rechazaron una desaceleración coordinada impuesta mediante nuevas reglas.
La división es importante: no existe consenso entre los líderes tecnológicos sobre cuánto debe frenarse la IA ni sobre quién debe controlar ese proceso.
Lo que sí ha cambiado es la naturaleza de la discusión. La pregunta ya no es únicamente qué puede responder una máquina, sino qué ocurre cuando una IA recibe capacidad para actuar.
La ONU está intentando construir precisamente esa barrera antes de que las capacidades superen la capacidad de supervisarlas. Su Panel Científico advierte que las salvaguardas no avanzan al mismo ritmo que las capacidades de la tecnología.
El riesgo de mayor alcance no necesariamente comienza con una máquina que decide eliminar a la humanidad. Puede empezar mucho antes: con sistemas que reciben demasiada autonomía, personas que confían demasiado en sus decisiones y gobiernos que tardan más en establecer límites de lo que la tecnología tarda en avanzar.
Foto: @magnific
Acerca del autor
Redacción Teleprónter 
