EU untersucht Xs Grok KI wegen sexueller Deepfakes von Frauen und Kindern

Europäische Kommission leitet formelle Untersuchung gegen Xs KI-Chatbot ein

Die Europäische Union hat ein formelles Untersuchungsverfahren gegen das Social-Media-Plattform X von Elon Musk eingeleitet. Grund sind Bedenken, dass der KI-Chatbot Grok genutzt wurde, um nicht einvernehmliche sexuelle Deepfake-Bilder von Frauen und Kindern zu generieren. Die am 26. Januar 2026 angekündigte Untersuchung markiert eine der bedeutendsten regulatorischen Maßnahmen gegen KI-generierte Inhalte im Rahmen des Digital Services Act (DSA) der EU.

'Entkleidungs'-Funktion löst Empörung aus

Der Fokus der Untersuchung liegt auf den Bildgenerierungsfähigkeiten von Grok, die es Nutzern ermöglichten, sexuell explizite Deepfakes zu erstellen, indem Personen auf Fotos digital 'entkleidet' wurden. Laut der EU-Binnenmarktkommissarin Henna Virkkunen sind 'sexuelle Deepfakes eine inakzeptable und gewalttätige Form des Missbrauchs. Wir müssen feststellen, ob X die Rechte europäischer Bürger ausreichend geschützt oder sie als Kollateralschaden behandelt hat.'

Die Erklärung der Europäischen Kommission betonte, dass einige der generierten Inhalte möglicherweise kinderpornografisches Material darstellen, was ernsthafte rechtliche und ethische Bedenken aufwirft. Die Untersuchung wird prüfen, ob X vor der Einführung von Groks Funktionen auf dem EU-Markt die vorgeschriebenen Risikobewertungen durchgeführt hat, wie es der DSA vorschreibt.

Ausweitung der regulatorischen Aufsicht

Dies ist nicht das erste Mal, dass X unter EU-Aufsicht steht. Im Dezember 2025 erhielt die Plattform eine Geldstrafe von 120 Millionen Euro für frühere DSA-Verstöße im Zusammenhang mit irreführenden 'blauen Häkchen', unzureichender Werbetransparenz und ungenügendem Datenzugang für Forscher.

Die aktuelle Untersuchung wurde ausgeweitet und umfasst nun auch die Empfehlungssysteme von X, insbesondere nachdem die Plattform angekündigt hatte, die KI von Grok zur Auswahl und Empfehlung von Nutzerinhalten einzusetzen. Dies wirft zusätzliche Bedenken hinsichtlich der algorithmischen Verstärkung schädlichen Materials auf.

Globaler Druck nimmt zu

X steht aufgrund der Grok-Kontroverse unter zunehmendem internationalem Druck. Ähnliche Untersuchungen laufen in Australien, Frankreich und Deutschland, während Indonesien und Malaysia vorübergehende Verbote der Technologie verhängt haben. Auch die britische Aufsichtsbehörde Ofcom leitete im Januar 2026 eine eigene Untersuchung ein.

Sollte X gegen den DSA verstoßen haben, drohen Geldstrafen von bis zu 6 % seines globalen Jahresumsatzes. Basierend auf einem geschätzten Umsatz von 2,9 Milliarden US-Dollar wären das etwa 174 Millionen US-Dollar. Die Europäische Kommission hat die Befugnis, während der Untersuchung vorläufige Maßnahmen zu verhängen und kann Verhaltensänderungen der Plattform fordern.

Reaktion der Plattform und technische Anpassungen

X hat auf die Kontroverse reagiert, indem es Bildbearbeitungsmöglichkeiten für Grok-Nutzer eingeschränkt und die Generierung freizügiger Bilder in Rechtsgebieten blockiert hat, in denen solche Inhalte illegal sind. Ein Unternehmenssprecher erklärte: 'Wir haben null Toleranz gegenüber sexueller Ausbeutung von Kindern und nicht einvernehmlicher Nacktheit. Wir sind entschlossen, gemeinsam mit den Aufsichtsbehörden diese Bedenken anzugehen.'

EU-Beamte betonen jedoch, dass diese technischen Anpassungen die systemischen Risiken, die in ihrer Untersuchung identifiziert wurden, nicht vollständig beseitigen. Die Kommission wird prüfen, ob die Maßnahmen von X ausreichen, um Nutzer vor geschlechtsspezifischer Gewalt und negativen Auswirkungen auf ihr physisches und mentales Wohlbefinden zu schützen.

Die Untersuchung hat keine feste Frist, aber die Kommission hat angekündigt, dem Fall angesichts der schwerwiegenden mutmaßlichen Verstöße Priorität einzuräumen. Dieser Fall stellt einen Meilenstein bei der Bewährung der Fähigkeit der EU dar, sich schnell entwickelnde KI-Technologien zu regulieren und Bürger vor digitalen Schäden zu schützen.