Deutsch
English
Español
Français
Nederlands
Português
La Unión Europea ha alcanzado un acuerdo provisional histórico para prohibir los sistemas de inteligencia artificial que generan imágenes sexualmente explícitas no consentidas, como respuesta directa al escándalo global que involucra al chatbot Grok de Elon Musk. Los Estados miembros y el Parlamento Europeo acordaron el jueves modificar la Ley de IA de la UE para prohibir explícitamente las herramientas de 'desnudificación' impulsadas por IA y los generadores de deepfakes que crean contenido íntimo sin consentimiento.
¿Qué provocó la prohibición de deepfakes de IA en la UE?
La prohibición fue desencadenada por el abuso generalizado de Grok, el chatbot de IA desarrollado por xAI de Musk. Entre el 29 de diciembre de 2025 y el 9 de enero de 2026, la función de generación de imágenes de Grok se utilizó para crear aproximadamente 3 millones de imágenes sexualizadas no consentidas, incluyendo más de 23.000 que representaban a menores. El escándalo provocó indignación mundial e investigaciones en múltiples jurisdicciones.
En marzo de 2026, un tribunal holandés ordenó a xAI detener la generación de imágenes de desnudos no consentidos en los Países Bajos, imponiendo multas de hasta 100.000 euros por día en caso de incumplimiento. El caso fue presentado por Offlimits, un centro holandés de monitoreo de violencia en línea, y la organización sin fines de lucro Victims Support Fund. El tribunal concluyó que las salvaguardas de xAI eran fácilmente eludibles e insuficientes.
La Comisión Europea también inició una investigación sobre X (antes Twitter) en virtud de la Ley de Servicios Digitales (DSA) por posibles infracciones relacionadas con la integración de Grok. Se están realizando investigaciones similares en el Reino Unido, Australia, Francia y Alemania. La investigación de la Ley de Servicios Digitales de la UE sobre X podría resultar en multas de hasta el 6% de la facturación anual global de la empresa.
¿Qué cubre la nueva prohibición de IA de la UE?
El acuerdo provisional, alcanzado tras nueve horas de negociaciones en Bruselas, prohíbe específicamente:
- Sistemas de IA que generan imágenes deepfake sexuales o íntimas no consentidas
- Herramientas de 'desnudificación' impulsadas por IA que desnudan digitalmente a personas sin su consentimiento
- Sistemas de IA que crean o distribuyen material de abuso sexual infantil (CSAM)
La prohibición forma parte de las modificaciones a la Ley de Inteligencia Artificial de la UE, que entró en vigor en agosto de 2024. Las nuevas reglas abordan el vacío legal que permitía a los sistemas de IA generar contenido dañino sin una prohibición explícita en la legislación de la UE.
"Se trata de cuánto poder estamos dispuestos a darle a la IA para degradar a las personas", dijo el eurodiputado Sergey Lagodinsky, enfatizando que el problema va más allá de Grok hacia los límites éticos del desarrollo de la IA.
Cronograma e implementación
Se espera que la prohibición de contenido sexual generado por IA no consentido entre en vigor el 2 de diciembre de 2026, después de la aprobación formal de los legisladores y Estados miembros de la UE. Las comisiones de Mercado Interior y Libertades Civiles del Parlamento Europeo ya han adoptado su posición, y se espera una votación en el pleno próximamente.
Junto con la prohibición, las instituciones de la UE acordaron retrasar ciertos plazos de cumplimiento para la IA de alto riesgo. Los sistemas de IA de alto riesgo independientes (utilizados en biometría, infraestructura crítica, educación, empleo y aplicación de la ley) ahora tienen como fecha límite el 2 de diciembre de 2027, mientras que la IA de alto riesgo integrada en productos regulados (dispositivos médicos, maquinaria, juguetes) tiene hasta el 2 de agosto de 2028. Las reglas de marcado de agua y divulgación de contenido sintético entrarán en vigor el 2 de diciembre de 2026.
Los retrasos, parte del paquete Digital Omnibus propuesto en noviembre de 2025, buscan dar a las empresas tiempo para recibir estándares técnicos y orientación interpretativa antes de enfrentar sanciones. Los plazos de cumplimiento de la Ley de IA de la UE se han ajustado para evitar confusiones y una aplicación desigual en el mercado único.
Impacto en empresas tecnológicas y la industria de IA
El escándalo de Grok ha expuesto los riesgos de las herramientas de generación de imágenes de IA no reguladas. xAI había promocionado la función 'Imagine' de Grok como una herramienta creativa, pero los usuarios la explotaron rápidamente para crear contenido abusivo. La decisión del tribunal holandés y la prohibición de la UE indican que las empresas tecnológicas serán consideradas responsables por el mal uso de sus sistemas de IA.
Las empresas se habían quejado de regulaciones superpuestas y trámites burocráticos que obstaculizaban su capacidad para competir con rivales estadounidenses y asiáticos. La decisión de la UE de prohibir herramientas de IA dañinas mientras retrasa las reglas de IA de alto riesgo refleja un intento de equilibrar la innovación con la seguridad.
El impacto de la regulación de IA en las startups en Europa sigue siendo una preocupación clave, ya que las empresas más pequeñas pueden tener dificultades con los costos de cumplimiento. Sin embargo, la prohibición de herramientas deepfake cuenta con un amplio apoyo de grupos de la sociedad civil que argumentan que proteger a las personas del abuso generado por IA es una cuestión de derechos fundamentales.
Preguntas frecuentes: Prohibición de la UE de deepfakes de desnudos con IA
¿Qué es la prohibición de deepfakes en la Ley de IA de la UE?
La UE ha acordado prohibir los sistemas de IA que generan imágenes sexualmente explícitas no consentidas, incluidos deepfakes de desnudos y herramientas de 'desnudificación' con IA. La prohibición modifica la Ley de IA existente y fue provocada por el escándalo del chatbot Grok.
¿Cuándo entrará en vigor la prohibición?
Se espera que la prohibición entre en vigor el 2 de diciembre de 2026, después de la aprobación formal del Parlamento Europeo y los Estados miembros de la UE.
¿Qué sanciones enfrentarán las empresas por violar la prohibición?
Las empresas que violen la prohibición podrían enfrentar multas según la Ley de IA de la UE, que pueden alcanzar hasta el 7% de la facturación anual global por las infracciones más graves. Además, plataformas como X enfrentan multas separadas de la DSA de hasta el 6% de la facturación global.
¿La prohibición afecta a otros generadores de imágenes de IA como DALL-E o Midjourney?
Sí, la prohibición se aplica a cualquier sistema de IA que genere contenido sexual o íntimo no consentido, independientemente del desarrollador. Todas las empresas que operan en la UE deben cumplir.
¿Por qué se retrasaron las reglas de IA de alto riesgo?
La UE retrasó los plazos de cumplimiento de la IA de alto riesgo para dar tiempo a las empresas a prepararse para los nuevos estándares y directrices. La fecha límite original de agosto de 2026 se trasladó a diciembre de 2027 y agosto de 2028 para diferentes categorías.
Fuentes
- Politico: La UE abre nueva investigación sobre X por imágenes sexuales de Grok
- France 24: La UE respalda prohibición de IA que genera deepfakes sexualizados
- BBC: La UE lanza investigación sobre X por deepfakes de Grok
- Al Jazeera: Tribunal holandés prohíbe a Grok generar imágenes de desnudos no consentidos
- Parlamento Europeo: Eurodiputados apoyan aplazamiento de ciertas reglas de IA
Follow Discussion