California regula chatbots de IA para proteger a niños y adolescentes. El gobernador de California, Gavin Newsom, firmó este lunes una ley que regula los chatbots de inteligencia artificial, con el objetivo de proteger a los niños y adolescentes de posibles riesgos asociados con esta tecnología.
La normativa establece que las plataformas deben recordar a los usuarios que están interactuando con un chatbot y no con un humano, mostrando la notificación cada tres horas para menores de edad. Además, las empresas deberán implementar protocolos para prevenir contenido relacionado con autolesiones y derivar a los usuarios a servicios de crisis si expresan ideación suicida.
“Las tecnologías emergentes pueden inspirar y educar, pero sin salvaguardias, también pueden explotar, engañar y poner en peligro a nuestros niños”, declaró Newsom, quien tiene cuatro hijos menores de 18 años. El gobernador enfatizó que la legislación busca impedir que los jóvenes sean víctimas de experiencias dañinas en chatbots no regulados.
California regula chatbots de IA para proteger a niños y adolescentes
La medida llega tras reportes de interacciones peligrosas entre menores y chatbots de empresas como Meta y OpenAI, que en algunos casos involucraron contenido sexualizado o instrucciones peligrosas relacionadas con suicidio. Estas preocupaciones motivaron investigaciones por parte del fiscal general de California y de la Comisión Federal de Comercio (FTC).
Recientemente, familias afectadas han presentado demandas contra compañías de IA, alegando que los chatbots contribuyeron a suicidios de adolescentes. En respuesta, OpenAI y Meta anunciaron mejoras en sus sistemas, incluyendo la vinculación de cuentas de padres a las de sus hijos y el bloqueo de conversaciones sobre autolesiones o trastornos alimentarios, derivando a recursos especializados.
La legislación californiana forma parte de una serie de proyectos para controlar la rápida evolución de la industria de IA en el estado y establecer límites claros de responsabilidad para las empresas tecnológicas que desarrollan chatbots.
