OpenAI lanza una versión blindada de ChatGPT para frenar la dependencia emocional en menores de edad y bloquear contenidos de riesgo. La compañía estadounidense OpenAI formalizó este martes 18 de agosto el lanzamiento mundial de «ChatGPT for Teens», una modalidad adaptada específicamente para usuarios de entre 13 y 17 años con el objetivo de establecer filtros estrictos ante contenidos sensibles y regular los vínculos emocionales con la inteligencia artificial.
La herramienta busca ofrecer un entorno pedagógico seguro para la primera generación que crece interactuando a diario con modelos generativos para resolver tareas académicas y buscar compañía virtual. Por lo tanto, los desarrolladores implementaron barreras de código para evitar respuestas mecánicas o conductas de riesgo.
Filtros de contenido, barreras emocionales y enfoque pedagógico interactivo
Sobre las características del nuevo software, la empresa con sede en San Francisco precisó que el sistema bloquea de forma automática intercambios con contenido sexual, insinuaciones románticas y material vinculado con autolesiones o suicidio. En este sentido, la interfaz tiene prohibido simular sentimientos hacia los jóvenes o proyectar rasgos de autoconciencia, impidiendo que el bot actúe como un sustituto afectivo ante cuadros de aislamiento social.
«Queremos tratar a los adolescentes según su etapa de desarrollo adecuada, sin hablarles con condescendencia pero asegurándonos de que no estén expuestos a material indebido ni construyan relaciones poco saludables con el modelo», afirmó Ann O’Leary, vicepresidenta de política global de OpenAI.
Por consiguiente, el módulo de asistencia académica no redactará trabajos completos de manera automática, sino que guiará a los estudiantes mediante preguntas estructuradas para estimular el razonamiento crítico.
Alertas por vulnerabilidad juvenil, supervisión parental y detección etaria
Investigaciones sobre dependencia y riesgos de salud mental
Por su parte, especialistas en desarrollo infantil y grupos de vigilancia tecnológica habían encendido las alarmas tras comprobar en auditorías previas que la plataforma convencional entregaba instrucciones detalladas sobre dietas extremas, consumo de sustancias y cartas de despedida a perfiles vulnerables. En este contexto, un informe presentado en 2025 por la organización Common Sense Media determinó que más del 70 % de los adolescentes estadounidenses utiliza chatbots como compañía regular, panorama que llevó al director ejecutivo de la firma, Sam Altman, a investigar la dependencia psicológica hacia la tecnología.
Vinculación de cuentas y mecanismos de monitoreo
Por otro lado, OpenAI explicó que utiliza algoritmos de estimación etaria basados en los patrones de búsqueda y las consultas de los usuarios para redirigir de forma automática a los menores de 18 años hacia este entorno restringido, siguiendo un esquema similar al aplicado por Meta en Instagram. Ciertamente, los representantes legales podrán asociar las cuentas de sus hijos para programar horas de silencio sin acceso al chat y recibir notificaciones de emergencia si el sistema detecta indicios de trastornos alimentarios o peligro de daño físico.
Con información de Diario La Calle
