Reino Unido investigará “deepfakes” generados con Grok
El organismo de supervisión de la seguridad en línea del Reino Unido, Ofcom, anunció este lunes la apertura de una investigación formal contra la plataforma X, propiedad de Elon Musk, tras recibir informes sobre el uso del chatbot Grok AI para generar y difundir imágenes sexuales explícitas.
Según el comunicado oficial, se trata de “informes sumamente preocupantes” que incluyen la creación de imágenes de mujeres desnudas sin consentimiento y representaciones sexualizadas de menores, lo que podría constituir delitos de abuso de imágenes íntimas y material de abuso sexual infantil.
La investigación se enmarca en la Ley de Seguridad Online del Reino Unido, promulgada en 2023, que obliga a las plataformas digitales a proteger a los usuarios de contenido ilegal y a implementar sistemas de control de edad eficaces. Ofcom advirtió que X podría enfrentar multas de hasta 18 millones de libras o el 10 % de sus ingresos globales en caso de incumplimiento.
El primer ministro británico, Keir Starmer, calificó las imágenes producidas por Grok como “repugnantes” e “ilegales”, mientras que la ministra de Tecnología, Liz Kendall, pidió que la investigación se complete con celeridad.
El regulador británico estableció una serie de obligaciones inmediatas para la plataforma:
- Evaluar riesgos de exposición a contenido ilegal en el Reino Unido.
- Eliminar de forma inmediata cualquier material ilegal detectado.
- Adoptar medidas de protección para impedir que los menores accedan a pornografía o imágenes íntimas no consentidas.
- Implementar controles de edad eficaces para usuarios británicos.
Ofcom también señaló que, en casos graves de incumplimiento, podría solicitar a los tribunales la interrupción de la actividad empresarial de X en el país.
Reacciones internacionales y presión sobre Musk
La polémica por Grok ha generado reacciones más allá del Reino Unido. Francia, Irlanda e Indonesia han anunciado medidas similares tras informes de que la IA generaba imágenes sexualizadas de mujeres y menores. En algunos países, incluso se ha bloqueado el acceso a Grok.
Elon Musk respondió acusando al gobierno británico de querer “suprimir la libertad de expresión”, aunque Ofcom y el Ejecutivo británico insistieron en que el problema no es político, sino la protección frente a contenido ilegal y dañino.
El caso de Grok marca un punto de inflexión en la regulación de la inteligencia artificial aplicada a redes sociales. Reino Unido está poniendo a prueba la eficacia de su Ley de Seguridad Online, y lo hace en un terreno delicado: la protección de mujeres y menores frente a abusos digitales.
Este episodio refleja cómo la IA no solo plantea oportunidades, sino también riesgos que requieren respuestas rápidas y contundentes de los reguladores.
