X limita uso de su herramienta de inteligencia artificial Grok tras denuncias por contenido no consentido. La plataforma X, propiedad del multimillonario Elon Musk, ha tomado la decisión de restringir el uso de su herramienta de inteligencia artificial Grok para usuarios no suscritos a su servicio de pago, tras recibir múltiples denuncias por el uso inapropiado de la herramienta para alterar imágenes de personas, en algunos casos desnudándolas sin su consentimiento.
Desde su lanzamiento, Grok permitía a los usuarios editar y generar imágenes, una funcionalidad que fue rápidamente utilizada de manera controvertida para modificar fotos de mujeres, mostrándolas en bikini o desnudas. Este uso de la herramienta desató una oleada de quejas por violaciones de la privacidad y la misoginia que se propagaba a través de la plataforma.
X limita uso de su herramienta de inteligencia artificial Grok tras denuncias por contenido no consentido
En respuesta a las denuncias, Musk anunció en X que cualquier usuario que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal. Además, la plataforma comenzó a informar a los usuarios que deseen seguir utilizando la herramienta para modificar imágenes de que esta función estará limitada solo a los suscriptores de pago, vinculando el nombre y la información de pago de los usuarios con las imágenes editadas.
La profesora de Filosofía de la Universidad de Cardiff, Daisy Dixon, quien previamente había denunciado el uso de Grok para desnudarse imágenes de ella sin su consentimiento, reaccionó al cambio implementado por X. Según Dixon, esta medida es simplemente “un parche” y no aborda el problema central. La académica cuestionó la ética detrás de la herramienta, sugiriendo que Grok debe ser rediseñada para incorporar límites éticos que prevengan este tipo de abusos. Dixon también destacó que más del 95% de las víctimas de abusos con imágenes no consentidas en X son mujeres.
Las denuncias internacionales sobre el uso indebido de Grok, especialmente la generación de imágenes sexualizadas de menores y mujeres, han provocado reacciones de Gobiernos en todo el mundo, particularmente en Europa, que calificaron estas prácticas como repugnantes. En España, la ministra de Juventud e Infancia, Sira Riego, solicitó a la Fiscalía General del Estado que investigue a X y su herramienta Grok por posibles delitos relacionados con la difusión de material de violencia sexual contra la infancia.
Este incidente ha puesto de relieve los riesgos asociados con el uso de herramientas de inteligencia artificial sin controles éticos adecuados, y plantea nuevas preguntas sobre la responsabilidad de las plataformas digitales en la protección de la privacidad y seguridad de los usuarios.
