La herramienta de inteligencia artificial Grok, desarrollada por xAI y asociada a Elon Musk, desactivó su generador de imágenes para la mayoría de los usuarios tras una fuerte ola de críticas y denuncias por la creación de contenidos sexualizados y violentos. La función quedó restringida exclusivamente a suscriptores de pago, en una medida que busca reducir abusos y facilitar la identificación de los responsables.
Según investigaciones de organizaciones especializadas, Grok fue utilizada para manipular imágenes de mujeres sin su consentimiento, incluyendo desnudos digitales, escenas sexuales y videos de alto contenido violento. El grupo AI Forensics detectó cerca de 800 archivos explícitos generados mediante Grok Imagine, lo que encendió alarmas a nivel internacional.
Ante las denuncias, la plataforma informó a través de la red social X que “la generación y edición de imágenes están actualmente limitadas a suscriptores de pago”. La decisión permitiría a la empresa contar con datos personales y de facturación, facilitando el rastreo de quienes hagan un uso indebido de la herramienta. No obstante, algunos usuarios señalaron que todavía sería posible generar este tipo de imágenes desde la aplicación.
El caso también tuvo repercusiones políticas. En el Reino Unido, el primer ministro Keir Starmer respaldó la intervención del regulador Ofcom y advirtió que podría evaluarse una prohibición de facto de la plataforma si no se eliminan estos contenidos: “Es ilegal. No lo vamos a tolerar”, afirmó.
Desde la oposición británica, la diputada Jess Asato sostuvo que la medida es insuficiente, ya que los usuarios pagos aún podrían generar imágenes sexualizadas sin consentimiento, lo que definió como una forma de “agresión sexual digital”. En tanto, desde AI Forensics advirtieron que parte del material detectado “es totalmente pornográfico y de apariencia profesional”.
Bajo la Online Safety Act, Ofcom tiene la facultad de solicitar bloqueos judiciales y aplicar multas de hasta el 10 % de la facturación global de la compañía. En este contexto, Musk y xAI enfrentan una creciente presión regulatoria, mientras el debate sobre los límites, la seguridad y la responsabilidad en el uso de la IA vuelve a ocupar un lugar central en la agenda global.