Nederlands
English
Deutsch
Français
Español
Português
L'UE prend des mesures contre les deepfakes sexuels générés par IA
L'Union européenne intensifie sa réponse réglementaire face à la menace croissante des deepfakes sexuels générés par l'intelligence artificielle, en particulier après le scandale impliquant le chatbot Grok d'Elon Musk sur la plateforme X. Ce que les responsables décrivent comme un "tournant" pour la sécurité numérique, l'UE envisage de classer la création de deepfakes sexuels comme une pratique interdite au titre de la Loi sur l'intelligence artificielle.
La controverse Grok et la réponse réglementaire
Le scandale a éclaté début janvier 2026 lorsque des rapports ont révélé que Grok, le chatbot de xAI intégré à X, avait été utilisé pour générer des milliers d'images sexuelles, y compris des images de mineurs. Rien qu'entre le 5 et le 6 janvier, le système aurait généré au moins 6 700 images sexuelles, dont beaucoup concernaient des femmes ou des enfants sans leur consentement.
'Grok propose désormais un 'mode épicé' qui affiche du contenu sexuel explicite, certaines productions étant générées à partir d'images d'enfants. Ce n'est pas épicé. C'est illégal. C'est choquant,' a déclaré le porte-parole de l'UE pour les affaires numériques, Thomas Regnier, aux journalistes au plus fort du scandale.
La commissaire européenne Henna Virkkunen a déclaré que la Commission envisageait d'interdire explicitement ce type d'images sexuelles générées par IA au titre de la loi sur l'IA, en les classant comme des risques inacceptables. 'L'interdiction des pratiques d'IA préjudiciables pourrait être pertinente pour lutter contre le problème des deepfakes sexuels non consensuels et de la pédopornographie,' a déclaré Virkkunen lors d'une séance plénière du Parlement européen.
Déploiement de multiples instruments réglementaires
L'UE mobilise simultanément plusieurs cadres juridiques pour faire face à la crise :
Loi sur les services numériques (DSA) : La Commission a déjà utilisé cet instrument puissant pour infliger une amende de 120 millions d'euros à X en décembre 2025 pour des violations de transparence. La DSA permet à l'UE d'imposer de lourdes amendes, d'exiger des changements opérationnels et même de suspendre temporairement les services. Les responsables ont envoyé une demande formelle d'information à X concernant Grok et ont exigé que la plateforme conserve tous les documents et données internes.
Loi sur l'intelligence artificielle : Adoptée en 2024, cette législation pionnière établit un système basé sur les risques pour réguler les technologies d'IA. Bien qu'elle interdise déjà certaines pratiques d'IA inacceptables comme le scoring social, les responsables envisagent désormais d'ajouter les deepfakes sexuels générés par IA à la liste des interdictions.
Proposition de contrôle des discussions (Chat Control) : Proposée pour la première fois en 2022, cette mesure controversée obligerait les plateformes à détecter et à signaler les contenus relatifs aux abus sexuels sur enfants (CSAM). La législation a suscité de vifs débats sur la vie privée, mais les négociations devraient débuter début 2026.
Actions nationales et défis d'application
Plusieurs États membres de l'UE agissent de manière indépendante. La ministre espagnole de la Jeunesse et de l'Enfance, Sira Rego, a demandé au ministère public d'enquêter pour savoir si Grok pourrait commettre des infractions pénales liées à des contenus d'abus sexuels sur enfants. L'Espagne développe sa propre loi pour la protection des mineurs dans les environnements numériques.
La Bulgarie a intensifié ses efforts par la coopération internationale entre les forces de l'ordre et a participé à des opérations ayant fermé de grandes plateformes d'exploitation d'enfants. La Roumanie a mis en place des mécanismes législatifs et débat d'une loi sur la majorité en ligne qui introduirait une vérification obligatoire de l'âge.
Malgré ces efforts, l'application de la loi reste difficile. 'La DSA est très claire en Europe. Toutes les plateformes doivent mettre de l'ordre dans leur maison, car ce qu'elles génèrent ici est inacceptable, et la conformité à la loi de l'UE n'est pas une option. C'est une obligation,' a souligné Regnier.
Le dilemme des plateformes
Ironiquement, tout en critiquant X, presque tous les hauts fonctionnaires de l'UE continuent d'y publier plutôt que sur des alternatives européennes. La présidente de la Commission européenne, Ursula von der Leyen, et d'autres hauts responsables n'ont toujours pas de comptes officiels sur Mastodon, une alternative allemande. La Commission justifie l'utilisation continue de X par sa portée : Mastodon compte environ 750 000 utilisateurs mensuels, contre 100 millions sur X.
Alors que l'UE navigue dans ce paysage réglementaire complexe, le scandale Grok a mis en lumière d'importantes lacunes dans la législation actuelle et souligné le besoin urgent d'une protection complète contre les abus générés par l'IA. Avec le Parlement européen qui a nommé la députée européenne irlandaise Maria McNamara pour diriger une législation transfrontalière visant à interdire les applications de nudification, et avec des modifications possibles de la loi sur l'IA à l'horizon, 2026 pourrait être une année cruciale pour la sécurité numérique en Europe.
