ONU alerta riesgos de la IA generativa en derechos humanos. El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió sobre los riesgos que puede representar la IA generativa si se usa sin controles adecuados.
Durante una reunión celebrada en Ginebra, señaló que la tecnología ofrece un enorme potencial, pero también peligros evidentes para sociedades modernas.
Afirmó que su uso con fines políticos o económicos puede manipular y distorsionar la información.
Türk sostuvo que, sin regulaciones claras, los sistemas de IA generativa podrían convertirse en “un monstruo de Frankenstein moderno”.
Explicó que esto ocurre cuando la tecnología se despliega sin supervisión y sin normas que protejan a la ciudadanía.
Según dijo, los primeros afectados suelen ser los Derechos Humanos.
ONU alerta riesgos de la IA generativa en derechos humanos
El funcionario subrayó que los Derechos Humanos pueden resultar vulnerados por decisiones automáticas.
Entre los riesgos mencionó la privacidad, la participación política, la libertad de expresión y el derecho al trabajo.
Señaló que estas amenazas ya están presentes y requieren atención inmediata.
Türk añadió que cuando gigantes tecnológicos lanzan nuevas herramientas, la brecha de poder suele aumentar.
Indicó que la concentración corporativa tiene efectos directos sobre el acceso equitativo a la tecnología.
También advirtió que la acumulación de riqueza por parte de pocos actores supera incluso economías nacionales.
El alto comisionado afirmó que es indispensable establecer límites claros sobre la IA generativa.
Dijo que los gobiernos deben actuar juntos para evitar abusos y garantizar entornos digitales seguros.
La cooperación internacional sería clave para desarrollar reglas eficaces y universalmente aplicables.
Türk insistió en que, cuando el poder no está limitado por ley, pueden surgir abusos y desigualdades profundas.
Recordó que las decisiones automatizadas requieren transparencia y mecanismos de corrección.
Pidió también salvaguardas para que los ciudadanos puedan comprender y cuestionar decisiones basadas en IA generativa.
El funcionario concluyó que la regulación debe avanzar al mismo ritmo que la innovación.
De lo contrario, los riesgos podrían expandirse más rápido que los beneficios.
Naciones Unidas llamó a mantener el foco en la protección de derechos en medio del avance tecnológico.
