Imagen: ArchivoEl fiscal general de California anunció el miércoles el inicio de una investigación contra la empresa xAI, de Elon Musk, debido a la proliferación de imágenes de carácter sexual de mujeres y menores de edad producidas con su herramienta de inteligencia artificial Grok.
La investigación se suma a las varias abiertas contra X en diferentes países tras la difusión de imágenes pornográficas falsas creadas con Grok.
“xAI parece facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados paracosar a mujeres y niñas en internet, principalmente vía la red social X”, indica el fiscal Rob Bonta en un comunicado.
Grok AI ha estado produciendo imágenes íntimas no consensuales, falsas y utilizadas para acosar a mujeres en Internet.
Esto es inaceptable. Exigimos respuestas inmediatas de xAI sobre su plan para detener la creación y difusión de este contenido.
Usaremos todas las herramientas a nuestra disposición para mantener…
– Rob Bonta (@AGRobBonta) 14 de enero de 2026 En consecuencia, su despacho iniciará una “investigación sobre xAI para determinar si, y cómo, xAI violó la ley”, añadió.
“Exhorto a xAI a tomar medidas inmediatas para que eso no ocurra más”, añadió el fiscal. “Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, dijo Bonta.
Investigación a GrokUn movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red X, también propiedad de Musk.
Algunos usuarios aprovechan esa función para publicar o responder a mensajes que contienen fotografías de mujeres, junto con la instrucción “ponla en bikini” para generar una imagen hiperrealista falsa (deepfake).
Desde el 9 de enero, la función para crear imágenes fue desactivada para los usuarios que no pagan X, que asegura que tomará medidas para suprimir esos contenidos ilegales y suspender las cuentas implicadas.
La semana pasada, un análisis de más de 20.000 imágenes generadas por Grok realizado por la organización sin ánimo de lucro AI Forensics, con sede en París, concluyó que más de la mitad mostraban “individuos con vestimenta mínima”, la mayoría mujeres, y el 2% aparentaban ser menores de 18 años.
CaliforniaGrok