Nederlands
English
Deutsch
Français
Español
Português
La UE toma medidas contra los deepfakes sexuales generados por IA
La Unión Europea está intensificando su respuesta regulatoria ante la creciente amenaza de los deepfakes sexuales generados por inteligencia artificial, especialmente tras el escándalo del chatbot Grok AI de Elon Musk en la plataforma X. En lo que los funcionarios describen como un 'punto de inflexión' para la seguridad digital, la UE está considerando clasificar la creación de deepfakes sexuales como una práctica prohibida bajo la Ley de Inteligencia Artificial.
La polémica de Grok y la respuesta regulatoria
El escándalo estalló a principios de enero de 2026 cuando informes revelaron que Grok, el chatbot de xAI integrado en X, se estaba utilizando para generar miles de imágenes sexuales, incluidas imágenes de menores. Solo entre el 5 y el 6 de enero, el sistema generó supuestamente al menos 6.700 imágenes sexuales, muchas de las cuales involucraban a mujeres o niños sin su consentimiento.
'Grok ahora ofrece un 'modo picante' que muestra contenido sexual explícito, y parte de su salida se genera con imágenes de aspecto infantil. Esto no es picante. Esto es ilegal. Esto es impactante,' dijo el portavoz de asuntos digitales de la UE, Thomas Regnier, a los periodistas durante el punto álgido del escándalo.
La comisaria europea Henna Virkkunen ha declarado que la Comisión está considerando prohibir explícitamente este tipo de imágenes sexuales generadas por IA bajo la ley de IA, clasificándolas como riesgos inaceptables. 'La prohibición de prácticas perjudiciales de IA podría ser relevante para abordar el problema de los deepfakes sexuales no consensuados y la pornografía infantil,' dijo Virkkunen durante una sesión plenaria del Parlamento Europeo.
Despliegue de múltiples herramientas regulatorias
La UE está desplegando simultáneamente múltiples marcos legales para abordar la crisis:
Ley de Servicios Digitales (DSA): La Comisión ya ha utilizado esta poderosa herramienta para imponer a X una multa de 120 millones de euros en diciembre de 2025 por infracciones de transparencia. La DSA permite a la UE imponer multas sustanciales, exigir cambios operativos e incluso suspender servicios temporalmente. Los funcionarios han enviado una solicitud formal de información a X sobre Grok y han exigido que la plataforma conserve todos los documentos y datos internos.
Ley de Inteligencia Artificial: Aprobada en 2024, esta legislación pionera establece un sistema basado en riesgos para regular las tecnologías de IA. Aunque ya prohíbe ciertas prácticas de IA inaceptables, como la puntuación social, los funcionarios están considerando ahora añadir los deepfakes sexuales generados por IA a la lista de prohibiciones.
Propuesta de Control de Chats: Propuesta por primera vez en 2022, esta controvertida medida obligaría a las plataformas a detectar y denunciar material de abuso sexual infantil (CSAM). La legislación ha provocado intensos debates sobre privacidad, pero se espera que se negocie a principios de 2026.
Acciones nacionales y desafíos de aplicación
Varios Estados miembros de la UE están tomando medidas independientes. La ministra española de Juventud e Infancia, Sira Rego, ha pedido a la fiscalía que investigue si Grok podría estar cometiendo delitos relacionados con material de abuso sexual infantil. España está desarrollando su propia ley para la protección de menores en entornos digitales.
Bulgaria ha intensificado los esfuerzos a través de la cooperación internacional entre organismos encargados de la aplicación de la ley y ha participado en operaciones que han cerrado grandes plataformas de explotación infantil. Rumanía tiene mecanismos legislativos en marcha y debate una Ley de Mayoría de Edad en Línea que introduciría la verificación obligatoria de la edad.
A pesar de estos esfuerzos, la aplicación sigue siendo un desafío. 'La DSA es muy clara en Europa. Todas las plataformas deben poner su casa en orden, porque lo que generan aquí es inaceptable, y el cumplimiento de la ley de la UE no es una opción. Es una obligación,' subrayó Regnier.
El dilema de la plataforma
Irónicamente, mientras critican a X, casi todos los altos funcionarios de la UE siguen publicando allí en lugar de en alternativas europeas. La presidenta de la Comisión Europea, Ursula von der Leyen, y otros altos cargos todavía no tienen cuentas oficiales en Mastodon, una alternativa alemana. La Comisión justifica el uso continuado de X por su alcance: Mastodon tiene unos 750.000 usuarios mensuales, en comparación con los 100 millones de X.
Mientras la UE navega por este complejo panorama regulatorio, el escándalo de Grok ha expuesto importantes lagunas en la legislación actual y ha subrayado la necesidad urgente de una protección integral contra el abuso generado por IA. Con el Parlamento Europeo nombrando a la eurodiputada irlandesa Maria McNamara para liderar una legislación transfronteriza que prohíba las aplicaciones de nudificación, y con posibles enmiendas a la ley de IA en el horizonte, 2026 podría ser un año crucial para la seguridad digital en Europa.
