EU wil AI-nudificatie verbieden na Grok deepfake-schandaal

EU neemt actie tegen AI-gegenereerde seksuele deepfakes

De Europese Unie intensiveert haar regelgevende reactie op de groeiende dreiging van AI-gegenereerde seksuele deepfakes, vooral na het schandaal rond de Grok AI-chatbot van Elon Musk op het X-platform. In wat functionarissen beschrijven als een 'waterscheiding' voor digitale veiligheid, overweegt de EU het creëren van seksuele deepfakes te classificeren als een verboden praktijk onder de Artificial Intelligence Act.

De Grok-ophef en regelgevende reactie

Het schandaal brak uit begin januari 2026 toen rapporten onthulden dat Grok, de chatbot van xAI geïntegreerd in X, werd gebruikt om duizenden seksuele afbeeldingen te genereren, inclusief afbeeldingen van minderjarigen. Alleen al tussen 5 en 6 januari genereerde het systeem naar verluidt minstens 6.700 seksuele afbeeldingen, waarvan vele vrouwen of kinderen betroffen zonder hun toestemming.

'Grok biedt nu een 'spicy mode' aan die expliciete seksuele inhoud toont, waarbij sommige output wordt gegenereerd met kinderachtige afbeeldingen. Dit is niet spicy. Dit is illegaal. Dit is schokkend,' zei EU-woordvoerder digitale zaken Thomas Regnier tegen verslaggevers tijdens het hoogtepunt van het schandaal.

Eurocommissaris Henna Virkkunen heeft verklaard dat de Commissie overweegt dit soort AI-gegenereerde seksuele afbeeldingen expliciet te verbieden onder de AI-wet, waarbij ze worden geclassificeerd als onaanvaardbare risico's. 'Het verbod op schadelijke praktijken op het gebied van AI zou relevant kunnen zijn voor het aanpakken van het probleem van niet-consensuele seksuele deepfakes en kinderporno,' zei Virkkunen tijdens een plenaire vergadering van het Europees Parlement.

Meerdere regelgevende instrumenten ingezet

De EU zet meerdere juridische kaders gelijktijdig in om de crisis aan te pakken:

Digital Services Act (DSA): De Commissie heeft dit krachtige instrument al gebruikt om X in december 2025 een boete van €120 miljoen op te leggen voor transparantieovertredingen. De DSA stelt de EU in staat forse boetes op te leggen, operationele veranderingen te eisen en zelfs diensten tijdelijk op te schorten. Functionarissen hebben een formeel verzoek om informatie naar X gestuurd over Grok en hebben geëist dat het platform alle interne documenten en gegevens bewaart.

Artificial Intelligence Act: Aangenomen in 2024, deze baanbrekende wetgeving stelt een risicogebaseerd systeem in om AI-technologieën te reguleren. Hoewel het al bepaalde onaanvaardbare AI-praktijken zoals sociale scoring verbiedt, overwegen functionarissen nu om AI-gegenereerde seksuele deepfakes toe te voegen aan de verboden lijst.

Chat Control-voorstel: Voor het eerst voorgesteld in 2022, deze controversiële maatregel zou platforms verplichten om materiaal over seksueel misbruik van kinderen (CSAM) te detecteren en te melden. De wetgeving heeft felle privacydebatten veroorzaakt, maar wordt naar verwachting begin 2026 onderhandeld.

Nationale acties en handhavingsuitdagingen

Verschillende EU-lidstaten nemen onafhankelijke actie. De Spaanse minister van Jeugd en Kinderen, Sira Rego, heeft het openbaar ministerie gevraagd te onderzoeken of Grok mogelijk strafbare feiten pleegt met betrekking tot materiaal over seksueel misbruik van kinderen. Spanje ontwikkelt zijn eigen wet voor de bescherming van minderjarigen in digitale omgevingen.

Bulgarije heeft de inspanningen geïntensiveerd via internationale samenwerking tussen wetshandhavingsinstanties en heeft deelgenomen aan operaties die grote platforms voor kinderuitbuiting hebben gesloten. Roemenië heeft wetgevende mechanismen op zijn plaats en debatteert over een Online Age of Majority-wet die verplichte leeftijdsverificatie zou introduceren.

Ondanks deze inspanningen blijft handhaving uitdagend. 'De DSA is heel duidelijk in Europa. Alle platforms moeten hun eigen huis op orde brengen, omdat wat ze hier genereren onaanvaardbaar is, en naleving van de EU-wet is geen optie. Het is een verplichting,' benadrukte Regnier.

Het platformdilemma

Ironisch genoeg, terwijl ze X bekritiseren, blijven bijna alle hoge EU-functionarissen daar posten in plaats van op Europese alternatieven. Voorzitter van de Europese Commissie Ursula von der Leyen en andere topfunctionarissen hebben nog steeds geen officiële accounts op Mastodon, een Duits alternatief. De Commissie rechtvaardigt het voortgezette gebruik van X vanwege zijn bereik: Mastodon heeft ongeveer 750.000 maandelijkse gebruikers, vergeleken met 100 miljoen op X.

Terwijl de EU dit complexe regelgevende landschap navigeert, heeft het Grok-schandaal aanzienlijke hiaten in de huidige wetgeving blootgelegd en de dringende behoefte aan uitgebreide bescherming tegen AI-gegenereerd misbruik benadrukt. Met het Europees Parlement dat Iers Europarlementslid Maria McNamara heeft aangesteld om grensoverschrijdende wetgeving te leiden om nudificatie-apps te verbieden, en met mogelijke wijzigingen aan de AI-wet in het vooruitzicht, kan 2026 een cruciaal jaar worden voor digitale veiligheid in Europa.