EU onderzoekt X's Grok AI om seksuele deepfakes van vrouwen en kinderen

Europese Commissie start formeel onderzoek naar AI-chatbot van X

De Europese Unie heeft een formeel onderzoek geopend naar het sociale mediaplatform X van Elon Musk vanwege zorgen dat de AI-chatbot Grok is gebruikt om niet-consensuele seksuele deepfake-afbeeldingen van vrouwen en kinderen te genereren. Het onderzoek, aangekondigd op 26 januari 2026, markeert een van de belangrijkste regelgevende acties tegen AI-gegenereerde content onder de Digital Services Act (DSA) van de EU.

'Uitkleed'-mogelijkheden veroorzaken verontwaardiging

Het onderzoek richt zich op de beeldgeneratiecapaciteiten van Grok die gebruikers in staat stelden seksueel expliciete deepfakes te creëren door mensen op foto's digitaal 'uit te kleden'. Volgens Eurocommissaris voor de Interne Markt, Henna Virkkunen, zijn 'seksuele deepfakes een onaanvaardbare en gewelddadige vorm van misbruik. We moeten vaststellen of X de rechten van Europese burgers voldoende heeft beschermd of hen als collateral damage heeft behandeld.'

De verklaring van de Europese Commissie benadrukte dat sommige gegenereerde content mogelijk kinderpornografisch materiaal vormt, wat serieuze juridische en ethische zorgen oproept. Het onderzoek zal beoordelen of X verplichte risicobeoordelingen heeft uitgevoerd voordat Grok's functionaliteiten op de EU-markt werden geïntroduceerd, zoals vereist door de DSA.

Uitbreiding regelgevend toezicht

Dit is niet de eerste keer dat X onder EU-toezicht staat. In december 2025 kreeg het platform een boete van €120 miljoen voor eerdere DSA-overtredingen met betrekking tot misleidende 'blauwe vinkjes', ontoereikende advertentietransparantie en onvoldoende data-toegang voor onderzoekers.

Het huidige onderzoek is uitgebreid om ook X's aanbevelingssystemen te omvatten, vooral nadat het platform aankondigde dat het Grok's AI zou gebruiken om gebruikerscontent te selecteren en aan te bevelen. Dit roept aanvullende zorgen op over algoritmische versterking van schadelijk materiaal.

Wereldwijde druk neemt toe

X staat onder toenemende internationale druk vanwege de Grok-controverse. Soortgelijke onderzoeken lopen in Australië, Frankrijk en Duitsland, terwijl Indonesië en Maleisië tijdelijke verbannen op de technologie hebben ingesteld. Ook de Britse toezichthouder Ofcom startte in januari 2026 een eigen onderzoek.

Als X in overtreding van de DSA wordt bevonden, kan het boetes krijgen tot 6% van zijn wereldwijde jaaromzet, wat neerkomt op ongeveer $174 miljoen op basis van een geschatte omzet van $2,9 miljard. De Europese Commissie heeft de bevoegdheid om tussentijdse maatregelen op te leggen tijdens het onderzoek en kan gedragsveranderingen van het platform eisen.

Platformreactie en technische aanpassingen

X heeft gereageerd op de controverse door beeldbewerkingsmogelijkheden voor Grok-gebruikers te beperken en het genereren van onthullende afbeeldingen te blokkeren in rechtsgebieden waar dergelijke content illegaal is. Een woordvoerder van het bedrijf verklaarde: 'We hebben nul tolerantie voor seksuele uitbuiting van kinderen en niet-consensuele naaktheid. We zijn toegewijd om samen met toezichthouders deze zorgen aan te pakken.'

EU-functionarissen benadrukken echter dat deze technische aanpassingen de systemische risico's die in hun onderzoek zijn geïdentificeerd niet volledig aanpakken. De Commissie zal onderzoeken of de maatregelen van X voldoende zijn om gebruikers te beschermen tegen gendergerelateerd geweld en negatieve gevolgen voor fysiek en mentaal welzijn.

Het onderzoek heeft geen vaste deadline, maar de Commissie heeft aangegeven dat het de zaak prioriteit zal geven gezien de ernstige aard van de vermeende overtredingen. Deze zaak vertegenwoordigt een mijlpaal in de test van het vermogen van de EU om snel evoluerende AI-technologieën te reguleren en burgers te beschermen tegen digitale schade.