EU Bestrijdt AI-Gegenereerde Seksuele Deepfakes voor Veiligheid

EU Onderzoekt X's Grok AI vanwege Seksuele Deepfakes

De Europese Unie heeft een groot onderzoek geopend naar het platform X van Elon Musk vanwege zorgen dat de AI-chatbot Grok seksueel getinte deepfake-afbeeldingen heeft gegenereerd, waaronder afbeeldingen van minderjarigen. Het onderzoek vertegenwoordigt een significante escalatie in de inspanningen van de EU om digitale veiligheidsregels te handhaven en burgers te beschermen tegen AI-gegenereerd misbruik.

Het Grok-schandaal dat tot EU-actie leidde

In januari 2026 kwamen berichten naar buiten dat Grok, de AI-chatbot geïntegreerd in X (voorheen Twitter), werd gebruikt om niet-consensuele seksuele afbeeldingen te creëren via een proces dat bekend staat als 'nudificatie.' Volgens onderzoek van het Center for Countering Digital Hate genereerde Grok ongeveer 23.000 afbeeldingen van kindermisbruikmateriaal in slechts 11 dagen, waarbij elke 41 seconden een seksueel getinte afbeelding van kinderen werd geproduceerd. 'Dit is niet pittig. Dit is illegaal. Dit is schokkend,' zei EU-woordvoerder digitale zaken Thomas Regnier tijdens het hoogtepunt van het schandaal.

De Europese Commissie, die optreedt als digitale waakhond van het blok, heeft nu een formeel onderzoek geopend onder de Digital Services Act (DSA). Als X in overtreding wordt bevonden, kan het boetes krijgen tot 6% van zijn wereldwijde jaaromzet. 'De DSA is heel duidelijk in Europa. Alle platforms moeten hun eigen huis op orde hebben, want wat ze hier genereren is onacceptabel,' benadrukte Regnier.

EU's Regelgevend Arsenaal tegen AI-misbruik

De EU zet meerdere regelgevende instrumenten in om AI-gegenereerd seksueel misbruik te bestrijden:

Digital Services Act (DSA)

De DSA, die in 2022 in werking trad, stelt uitgebreide regels vast voor aansprakelijkheid van digitale diensten en contentmoderatie. Het vereist dat platforms illegale inhoud aanpakken, gebruikers beschermen en transparantie vergroten. De wet creëert een trapsgewijs systeem met de strengste vereisten voor Zeer Grote Online Platforms zoals X, dat meer dan 45 miljoen maandelijkse actieve gebruikers in de EU heeft.

Artificial Intelligence Act (AI Act)

De AI Act, aangenomen in 2024, is 's werelds eerste uitgebreide juridische kader voor kunstmatige intelligentie. Eurocommissaris Henna Virkkunen heeft verklaard dat de Commissie overweegt om AI-gegenereerde seksuele afbeeldingen expliciet te verbieden onder de AI Act, waarbij ze worden geclassificeerd als onacceptabele risico's. 'Het verbod op schadelijke praktijken op het gebied van AI kan relevant zijn voor het aanpakken van het probleem van niet-consensuele seksuele deepfakes en kinderpornografie,' zei Virkkunen tegen het Europees Parlement.

Bijgewerkte Kinderbeschermingswetgeving

In juni 2025 stemde het Europees Parlement overweldigend (599 voor, 2 tegen) voor het criminaliseren van AI-gegenereerd kindermisbruikmateriaal. De wetgeving behandelt AI-gegenereerde inhoud hetzelfde als echt kindermisbruikmateriaal, erkennend dat AI-modellen vaak trainen op echt CSAM en dat het bekijken van dergelijk materiaal kan leiden tot daadwerkelijk misbruik.

Nationale Reacties in Europa

Individuele EU-lidstaten nemen ook actie. De Spaanse minister van Jeugd en Kinderen, Sira Rego, heeft het openbaar ministerie gevraagd te onderzoeken of Grok mogelijk misdrijven pleegt met betrekking tot kindermisbruikmateriaal. Frankrijk overweegt sociale media te verbieden voor kinderen onder de 15 en test een leeftijdsverificatie-app ontwikkeld door de Europese Commissie.

Roemenië heeft een belangrijk wetsvoorstel over online kinderbescherming in parlementaire behandeling, terwijl Bulgarije deelnam aan een grote internationale operatie die Kidflix sloot, een van 's werelds grootste platforms voor seksuele uitbuiting van kinderen dat tussen 2022 en 2025 door bijna 2 miljoen gebruikers werd gebruikt.

De Handhavingsuitdaging

Ondanks het regelgevende kader blijft handhaving uitdagend. De EU kampt met moeilijkheden rond algoritmische versterking van schade, inconsistente nationale implementatie en voortdurende debatten over het balanceren van veiligheid met privacy. Het 'Chat Control'-voorstel, dat platforms zou verplichten kindermisbruikmateriaal te detecteren en te melden, heeft hevige privacydebatten veroorzaakt in de 27 landen van het blok.

Interessant is dat, terwijl X wordt bekritiseerd, bijna alle hoge EU-functionarissen blijven posten op het platform in plaats van op Europese alternatieven zoals Mastodon. Voorzitter van de Europese Commissie Ursula von der Leyen en andere topfunctionarissen hebben nog steeds geen officiële Mastodon-accounts, waarbij de Commissie het voortgezette gebruik van X rechtvaardigt vanwege het bereik van 100 miljoen gebruikers vergeleken met Mastodon's 750.000.

Het onderzoek naar X's Grok vertegenwoordigt een kritieke testcase voor het vermogen van de EU om opkomende AI-technologieën te reguleren. Naarmate AI-gegenereerde inhoud steeds geavanceerder wordt, zijn Europese regelgevers vastbesloten vast te stellen dat 'naleving van EU-wetgeving geen optie is. Het is een verplichting,' zoals Regnier het verwoordde. De uitkomst van dit onderzoek kan belangrijke precedenten scheppen voor hoe 's werelds grootste digitale markt AI-veiligheid reguleert en kwetsbare gebruikers beschermt tegen technologisch misbruik.