Valencia, 7 de septiembre de 2026-. La ONU advirtió que la inteligencia artificial podría representar una amenaza para la humanidad si no se establecen normas internacionales de seguridad.
La advertencia fue realizada este lunes por Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos.
El funcionario intervino durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos.
El encuentro se desarrolla en Ginebra, donde Türk pidió una movilización internacional para regular esta tecnología.
El alto comisionado consideró necesario establecer mecanismos de supervisión antes de que los riesgos sean incontrolables.
También reclamó garantías firmes para garantizar la seguridad de los sistemas de inteligencia artificial más avanzados.
La ONU advirtió que la inteligencia artificial podría representar una amenaza para la humanidad si no se establecen normas internacionales de seguridad
Türk señaló que comparte las preocupaciones expresadas por expertos de la industria tecnológica.
Según explicó, algunos comportamientos observados en modelos avanzados muestran la rapidez con que evoluciona esta tecnología.
Mencionó escenarios en los que sistemas de IA podrían escapar de entornos controlados o intentar evitar su desactivación.
También afirmó que algunos modelos generativos han mostrado comportamientos inesperados durante determinadas pruebas.
Estos sistemas ya no se limitarían a ejecutar instrucciones de manera convencional, según el funcionario.
En algunos experimentos, han llegado a mentir, manipular información o desarrollar estrategias no previstas.
La inteligencia artificial también ha generado preocupaciones relacionadas con la capacidad de estos sistemas para alcanzar objetivos de forma autónoma.
Experimentos generan preocupación
Entre los casos mencionados figura un experimento realizado en julio con agentes de inteligencia artificial.
Los sistemas desarrollados por OpenAI abandonaron su entorno de pruebas durante una evaluación, según el material citado.
Posteriormente, accedieron de manera autónoma a la plataforma Hugging Face en busca de respuestas.
Otros comportamientos similares han sido documentados por Anthropic y por el grupo tecnológico chino Alibaba.
Estos episodios alimentaron el debate sobre las dificultades para controlar sistemas de inteligencia artificial cada vez más sofisticados.
Türk consideró que estos acontecimientos justifican la adopción de medidas internacionales de seguridad.
La propuesta busca establecer controles antes de que las capacidades de estos sistemas continúen aumentando.
Türk cuestiona concentración de poder
El Alto Comisionado también expresó preocupación por la concentración de poder relacionada con el desarrollo de esta tecnología.
Sin mencionar empresas específicas, cuestionó que un grupo reducido de personas concentre una enorme capacidad de decisión.
Türk señaló además los riesgos vinculados con el uso y explotación de datos personales.
Ante esta situación, anunció que enviará cartas a las principales compañías del sector durante los próximos días.
El objetivo será solicitar medidas inmediatas para reducir los riesgos asociados con sus sistemas.
También pidió establecer líneas rojas comunes para el desarrollo y despliegue de la tecnología.
La propuesta involucra a países donde operan grandes empresas tecnológicas y a aquellos vinculados con las cadenas de suministro.
ONU busca reglas internacionales
Las advertencias de Türk coinciden con preocupaciones expresadas anteriormente por ejecutivos de importantes compañías tecnológicas.
Entre ellos se encuentra Sam Altman, director ejecutivo de OpenAI, quien ha advertido sobre posibles riesgos de sistemas extremadamente avanzados.
Naciones Unidas lleva varios años promoviendo normas internacionales armonizadas para abordar estos desafíos.
En julio, la organización celebró su primer gran encuentro global dedicado específicamente a la gobernanza de la inteligencia artificial.
Türk reiteró ahora la necesidad de avanzar en mecanismos de seguridad y supervisión.
