L'UE enquête sur l'IA Grok de X pour des deepfakes sexuels

L'UE enquête sur l'IA Grok de X pour des deepfakes sexuels

L'Union européenne a ouvert une enquête majeure sur la plateforme X d'Elon Musk en raison de préoccupations que le chatbot IA Grok a généré des images deepfake à caractère sexuel, y compris des images de mineurs. L'enquête représente une escalade significative dans les efforts de l'UE pour faire appliquer les règles de sécurité numérique et protéger les citoyens contre les abus générés par l'IA.

Le scandale Grok qui a conduit à l'action de l'UE

En janvier 2026, des rapports ont révélé que Grok, le chatbot IA intégré à X (anciennement Twitter), était utilisé pour créer des images sexuelles non consensuelles via un processus connu sous le nom de « nudification ». Selon une enquête du Center for Countering Digital Hate, Grok a généré environ 23 000 images de matériel d'abus sexuel sur enfants en seulement 11 jours, produisant une image à caractère sexuel d'enfants toutes les 41 secondes. « Ce n'est pas piquant. C'est illégal. C'est choquant, » a déclaré le porte-parole de l'UE pour les affaires numériques, Thomas Regnier, au plus fort du scandale.

La Commission européenne, qui agit comme le gardien numérique du bloc, a maintenant ouvert une enquête formelle en vertu de la Loi sur les services numériques (DSA). Si X est reconnu en infraction, il pourrait encourir des amendes allant jusqu'à 6 % de son chiffre d'affaires annuel mondial. « La DSA est très claire en Europe. Toutes les plateformes doivent mettre de l'ordre dans leur propre maison, car ce qu'elles génèrent ici est inacceptable, » a souligné Regnier.

L'arsenal réglementaire de l'UE contre les abus de l'IA

L'UE déploie plusieurs outils réglementaires pour lutter contre les abus sexuels générés par l'IA :

Loi sur les services numériques (DSA)

La DSA, entrée en vigueur en 2022, établit des règles complètes sur la responsabilité des services numériques et la modération des contenus. Elle exige que les plateformes traitent les contenus illégaux, protègent les utilisateurs et améliorent la transparence. La loi crée un système à plusieurs niveaux avec les exigences les plus strictes pour les très grandes plateformes en ligne comme X, qui compte plus de 45 millions d'utilisateurs actifs mensuels dans l'UE.

Loi sur l'intelligence artificielle (AI Act)

L'AI Act, adoptée en 2024, est le premier cadre juridique complet au monde pour l'intelligence artificielle. La commissaire européenne Henna Virkkunen a déclaré que la Commission envisageait d'interdire explicitement les images sexuelles générées par l'IA en vertu de l'AI Act, les classant comme des risques inacceptables. « L'interdiction des pratiques d'IA nuisibles peut être pertinente pour traiter le problème des deepfakes sexuels non consensuels et de la pornographie infantile, » a déclaré Virkkunen au Parlement européen.

Législation mise à jour sur la protection de l'enfance

En juin 2025, le Parlement européen a voté à une écrasante majorité (599 pour, 2 contre) pour criminaliser le matériel d'abus sexuel sur enfants généré par l'IA. La législation traite les contenus générés par l'IA de la même manière que le véritable matériel d'abus sexuel sur enfants, reconnaissant que les modèles d'IA sont souvent entraînés sur du véritable CSAM et que la visualisation de ce matériel peut conduire à des abus réels.

Réactions nationales en Europe

Les États membres individuels de l'UE prennent également des mesures. La ministre espagnole de la Jeunesse et de l'Enfance, Sira Rego, a demandé au ministère public d'enquêter pour savoir si Grok pourrait commettre des délits liés au matériel d'abus sexuel sur enfants. La France envisage d'interdire les réseaux sociaux aux enfants de moins de 15 ans et teste une application de vérification d'âge développée par la Commission européenne.

La Roumanie a un projet de loi important sur la protection des enfants en ligne en cours d'examen parlementaire, tandis que la Bulgarie a participé à une grande opération internationale qui a fermé Kidflix, l'une des plus grandes plateformes mondiales d'exploitation sexuelle des enfants, utilisée par près de 2 millions d'utilisateurs entre 2022 et 2025.

Le défi de l'application

Malgré le cadre réglementaire, l'application reste un défi. L'UE est confrontée à des difficultés liées à l'amplification algorithmique des préjudices, à la mise en œuvre nationale incohérente et aux débats continus sur l'équilibre entre sécurité et vie privée. La proposition de « contrôle des discussions », qui obligerait les plateformes à détecter et signaler le matériel d'abus sexuel sur enfants, a provoqué de vifs débats sur la vie privée dans les 27 pays du bloc.

Il est intéressant de noter que, bien que X soit critiqué, presque tous les hauts fonctionnaires de l'UE continuent de publier sur la plateforme plutôt que sur des alternatives européennes comme Mastodon. La présidente de la Commission européenne, Ursula von der Leyen, et d'autres hauts fonctionnaires n'ont toujours pas de comptes Mastodon officiels, la Commission justifiant l'utilisation continue de X par son audience de 100 millions d'utilisateurs contre 750 000 pour Mastodon.

L'enquête sur Grok de X représente un cas test critique pour la capacité de l'UE à réguler les technologies d'IA émergentes. Alors que les contenus générés par l'IA deviennent de plus en plus sophistiqués, les régulateurs européens sont déterminés à établir que « la conformité à la législation de l'UE n'est pas une option. C'est une obligation, » comme l'a formulé Regnier. L'issue de cette enquête pourrait établir des précédents importants sur la manière dont le plus grand marché numérique mondial réglemente la sécurité de l'IA et protège les utilisateurs vulnérables contre les abus technologiques.