Nederlands
English
Deutsch
Français
Español
Português
Comisión Europea inicia investigación formal sobre el chatbot de IA de X
La Unión Europea ha abierto una investigación formal contra la plataforma de redes sociales X de Elon Musk debido a preocupaciones de que su chatbot de IA, Grok, se utilizó para generar deepfakes sexuales no consensuados de mujeres y niños. La investigación, anunciada el 26 de enero de 2026, marca una de las acciones regulatorias más significativas contra el contenido generado por IA bajo la Ley de Servicios Digitales (DSA) de la UE.
Capacidades de 'desvestir' causan indignación
La investigación se centra en las capacidades de generación de imágenes de Grok que permitían a los usuarios crear deepfakes sexualmente explícitos al 'desvestir' digitalmente a personas en fotografías. Según la Comisaria Europea del Mercado Interior, Henna Virkkunen, 'los deepfakes sexuales son una forma inaceptable y violenta de abuso. Debemos determinar si X protegió suficientemente los derechos de los ciudadanos europeos o los trató como daños colaterales.'
La declaración de la Comisión Europea enfatizó que parte del contenido generado podría constituir material de pornografía infantil, lo que plantea serias preocupaciones legales y éticas. La investigación evaluará si X realizó evaluaciones de riesgo obligatorias antes de introducir las funcionalidades de Grok en el mercado de la UE, según lo exige la DSA.
Expansión de la supervisión regulatoria
Esta no es la primera vez que X está bajo la lupa de la UE. En diciembre de 2025, la plataforma recibió una multa de 120 millones de euros por infracciones anteriores de la DSA relacionadas con 'garrapatas azules' engañosas, transparencia publicitaria insuficiente y acceso limitado a datos para investigadores.
La investigación actual se ha ampliado para incluir también los sistemas de recomendación de X, especialmente después de que la plataforma anunciara que utilizaría la IA de Grok para seleccionar y recomendar contenido de usuarios. Esto plantea preocupaciones adicionales sobre la amplificación algorítmica de material dañino.
La presión global aumenta
X enfrenta una presión internacional creciente debido a la controversia de Grok. Investigaciones similares están en curso en Australia, Francia y Alemania, mientras que Indonesia y Malasia han impuesto prohibiciones temporales a la tecnología. El regulador británico Ofcom también inició su propia investigación en enero de 2026.
Si se determina que X violó la DSA, podría enfrentar multas de hasta el 6% de su facturación anual global, lo que equivale a aproximadamente 174 millones de dólares basados en una facturación estimada de 2.900 millones de dólares. La Comisión Europea tiene la autoridad para imponer medidas provisionales durante la investigación y puede exigir cambios en el comportamiento de la plataforma.
Respuesta de la plataforma y ajustes técnicos
X ha respondido a la controversia limitando las capacidades de edición de imágenes para los usuarios de Grok y bloqueando la generación de imágenes reveladoras en jurisdicciones donde dicho contenido es ilegal. Un portavoz de la empresa declaró: 'Tenemos tolerancia cero para la explotación sexual infantil y la desnudez no consensuada. Estamos comprometidos a trabajar con los reguladores para abordar estas preocupaciones.'
Sin embargo, los funcionarios de la UE enfatizan que estos ajustes técnicos no abordan completamente los riesgos sistémicos identificados en su investigación. La Comisión investigará si las medidas de X son suficientes para proteger a los usuarios de la violencia de género y las consecuencias negativas para el bienestar físico y mental.
La investigación no tiene un plazo fijo, pero la Comisión ha indicado que priorizará el caso dada la grave naturaleza de las presuntas infracciones. Este caso representa un hito en la prueba de la capacidad de la UE para regular tecnologías de IA en rápida evolución y proteger a los ciudadanos del daño digital.
