La ONU alerta por los riesgos de una inteligencia artificial cada vez más autónoma
Juan Carlos Vallejo 
La inteligencia artificial ya beneficia a miles de millones de personas, pero también está generando daños que, según la ONU, requieren medidas urgentes de gobiernos y empresas para evitar que sus efectos alcancen derechos fundamentales.
La advertencia fue planteada el 14 de septiembre de 2026 por Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, en un documento dedicado a la necesidad de establecer reglas para el desarrollo de sistemas de IA cada vez más capaces.
El texto reconoce que esta tecnología puede contribuir a avances científicos, mejorar servicios públicos, apoyar la educación, ampliar el acceso a información y aumentar la producción agrícola. Sin embargo, sostiene que esos beneficios dependerán de las decisiones que se tomen sobre su diseño, desarrollo y uso.
Leer más: AMD lanza su mayor apuesta por la inteligencia artificial y ya suma aliados como OpenAI y Meta
La ONU señala que algunos problemas ya están ocurriendo. Entre ellos menciona casos documentados de discriminación provocada por sistemas automatizados, afectaciones a servicios esenciales y un uso creciente de herramientas de vigilancia capaces de comprometer la privacidad.
También advierte sobre campañas de desinformación generadas con IA que pueden alterar el debate público, afectar la cohesión social y generar nuevas formas de presión sobre las instituciones democráticas.
La preocupación aumenta con los agentes de IA
Uno de los puntos que más preocupa al organismo es la evolución de los llamados agentes de inteligencia artificial.
A diferencia de sistemas que se limitan a responder instrucciones, estos agentes pueden ejecutar objetivos, desarrollar procesos complejos y operar con una supervisión humana limitada. El documento señala que pruebas recientes han mostrado comportamientos no previstos por sus desarrolladores, incluido el intento de superar controles o modificar parámetros operativos.
Para Türk, los riesgos no se reducen a fallos técnicos. Un problema grave en sistemas utilizados para servicios esenciales podría afectar comunicaciones, infraestructura crítica o instituciones democráticas.
El documento también advierte que una falla de gran escala podría tener consecuencias sobre el acceso a agua potable, alimentos, atención sanitaria, servicios financieros y seguridad.
La ONU plantea que las empresas deben compartir información sobre incidentes de seguridad, someter sus sistemas a pruebas y mantener mecanismos de supervisión independientes. También propone evaluaciones de derechos humanos y responsabilidades legales cuando la ausencia de controles provoque daños.
El organismo pide además que los sistemas de IA mantengan una responsabilidad humana identificable. La tecnología, según el documento, no debería asumir por sí misma la responsabilidad por las decisiones que tome.
Un llamado a gobiernos y empresas
Türk sostiene que la autorregulación de la industria puede ser un primer mecanismo, pero no resulta suficiente por sí sola. Los Estados deberían establecer obligaciones comunes para impedir que la competencia entre países termine reduciendo los controles sobre los sistemas más avanzados.
El documento propone cooperación internacional, acceso independiente a modelos y entornos de prueba, supervisión de agentes de IA y mecanismos para investigar incidentes.
Leer más: Así quiere Huawei dominar la nueva era de la inteligencia artificial y el 5G avanzado
También menciona el Diálogo Global sobre Gobernanza de la IA, cuya primera reunión tuvo lugar en Ginebra en julio y cuyo próximo encuentro está previsto para mayo de 2027.
La conclusión de la ONU es directa: ningún país ni empresa debería decidir por sí sola qué riesgos puede asumir la sociedad. Las reglas que se adopten ahora determinarán cómo convivirán los derechos humanos con una tecnología que avanza a gran velocidad.
Foto:@rawpixel-com
Acerca del autor
Redacción Teleprónter 
