El fiscal general de Florida, James Uthmeier, acusó este lunes a OpenAI y a su director ejecutivo, Sam Altman, de poner en peligro a usuarios jóvenes al generar dependencia y promover conductas dañinas a través de ChatGPT.
Según el funcionario, la compañía habría fallado en implementar mecanismos efectivos de verificación de edad, lo que permitiría el acceso de menores sin suficientes controles de seguridad.
“Hoy anunciamos que hemos presentado una demanda civil contra Sam Altman y ChatGPT por poner en peligro a nuestros niños y engañar a los padres haciéndoles creer que es una aplicación segura”, declaró Uthmeier en rueda de prensa.
Florida demanda a OpenAI por supuestos riesgos en menores
El fiscal aseguró además que el chatbot puede resultar “adictivo” y que simula empatía humana para incentivar a los usuarios a compartir más información personal.
En la demanda, citada por AFP, se menciona un estudio de la Universidad Drexel que analiza efectos como pérdida de sueño, bajo rendimiento escolar y reducción de interacción social en adolescentes que usan chatbots.
El documento también sostiene que la versión gratuita de ChatGPT no cuenta con verificación de edad, y que los controles actuales serían insuficientes para impedir el acceso de menores de forma no supervisada.
OpenAI respondió que la inteligencia artificial es una tecnología nueva y que la empresa ha implementado medidas de protección y políticas de seguridad “líderes en la industria”, especialmente para usuarios menores de edad.
La compañía recuerda que el uso de ChatGPT está prohibido para menores de 13 años y que entre 13 y 17 requiere consentimiento parental, además de sistemas de detección de edad introducidos recientemente.
Uthmeier también citó reportes del Centro para Combatir el Odio Digital, donde se afirma que el sistema habría ofrecido respuestas sobre autolesiones en conversaciones simuladas con menores.
El fiscal sostiene que la empresa y su CEO podrían enfrentar responsabilidades por daños que “podrían ascender a miles de millones de dólares”.
Con información de AFP
