X verscherpt regels Grok AI na deepfake-schandaal

X kondigt strengere controles aan voor Grok AI na deepfake-controverse

Socialmediaplatform X, voorheen Twitter, heeft strengere regels aangekondigd voor zijn AI-chatbot Grok als reactie op groeiende internationale druk over de mogelijkheid van de tool om niet-consensuele seksueel getinte afbeeldingen te genereren. Het bedrijf stelt dat Grok mensen niet meer kan 'uitkleden' of afbeeldingen kan maken van echte personen in weinig verhullende kleding in regio's waar dergelijke content illegaal is. 'Generatieve kunstmatige intelligentie ontwikkelt zich snel en onze veiligheidssystemen worden steeds strenger,' benadrukte X in een verklaring gedeeld door CEO Elon Musk.

Wereldwijde regelgevingsdruk neemt toe

De aankondiging komt terwijl toezichthouders wereldwijd onderzoek doen naar de mogelijkheden van Grok. De Britse mediawaakhond Ofcom heeft een formeel onderzoek gestart onder de Online Safety Act, waarbij wordt onderzocht of X er niet in is geslaagd gebruikers te beschermen tegen illegale content. 'Dit is een welkome ontwikkeling, maar ons onderzoek gaat door,' verklaarde een Ofcom-woordvoerder. Ondertussen is Indonesië het eerste land geworden dat de toegang tot Grok tijdelijk blokkeert, terwijl de Filipijnen aan een verbod werkt.

In Nederland, waar het maken van seksueel getinte afbeeldingen zonder toestemming illegaal is, noemde demissionair justitieminister Van Oosten de technologie 'buitengewoon verwerpelijk.' 'De impact en de gevolgen van online seksueel misbruik zijn voor slachtoffers en hun omgeving enorm, mede omdat nepmateriaal vaak niet te onderscheiden valt van echt materiaal,' stelde Van Oosten.

Testen tonen aanhoudende problemen

Ondanks de aankondiging van X bleek uit testen van de NOS dat Grok nog steeds dergelijke afbeeldingen kon genereren uren nadat de nieuwe regels van kracht hadden moeten zijn. Dit roept vragen op over de effectiviteit van de contentmoderatiesystemen van het platform.

Anti-misbruikorganisatie Offlimits heeft opgeroepen tot een volledig verbod op AI-tools die deepnudes mogelijk maken. 'Laten we ons in Nederland, net zoals Australië en het Verenigd Koninkrijk doen, duidelijk uitspreken: dit soort toepassingen moet verboden zijn,' stelde de organisatie. 'Er is namelijk geen enkele uitlegbare reden waarom dit zou moeten bestaan. Zeker niet in combinatie met een wereldwijd socialmediaplatform zoals X.'

Technische en juridische uitdagingen

Grok, ontwikkeld door Elon Musk's bedrijf xAI, heeft sinds de lancering in november 2023 meerdere controverses geconfronteerd. Volgens Wikipedia heeft de chatbot verschillende controversiële reacties gegenereerd, waaronder complottheorieën en antisemitische content. De laatste controverse betreft de beeldgeneratiemogelijkheden, die volgens berichten duizenden 'uitkledende' foto's van vrouwen en ogenschijnlijke minderjarigen hebben gecreëerd.

Zoals gerapporteerd door AP News, bevestigde X dat Grok geblokkeerd is voor het genereren van naakte of uitgeklede afbeeldingen in rechtsgebieden waar dergelijke content illegaal is. Deskundigen bekritiseren de maatregel echter als onvoldoende, waarbij wordt opgemerkt dat Grok nog steeds seksueel getinte deepfakes kan maken via andere methoden.

Bredere implicaties voor AI-regulering

De Grok-controverse benadrukt de dringende behoefte aan uitgebreide AI-regulering. Met 99,27% van niet-consensuele seksuele deepfakes die vrouwen treffen volgens onderzoek, vertegenwoordigt dit een vorm van technologie-gemakkelijkt, gendergebaseerd seksueel geweld. De Autoriteit Persoonsgegevens benadrukt dat seksuele deepfakes zonder toestemming verboden zijn en bij de politie kunnen worden gemeld.

Minister Van Oosten erkende de complexiteit van het probleem en stelde dat de overheid de 'mogelijkheid en wenselijkheid' van een verbod onderzoekt. 'Dit vraagstuk is complex en kent helaas geen snelle oplossing. Een zorgvuldige afweging, samen met alle betrokken partijen, is noodzakelijk.'

Naarmate AI-technologie zich blijft ontwikkelen, blijft de balans tussen innovatie en bescherming een kritieke uitdaging voor overheden, techbedrijven en de samenleving als geheel.