EU erwägt Verbot von KI-generierten sexuellen Deepfakes nach Grok-Skandal

EU ergreift Maßnahmen gegen KI-generierte sexuelle Deepfakes

Die Europäische Union intensiviert ihre regulatorische Reaktion auf die wachsende Bedrohung durch KI-generierte sexuelle Deepfakes, insbesondere nach dem Skandal um den Grok-KI-Chatbot von Elon Musk auf der Plattform X. Was Beamte als 'Wasserscheide' für die digitale Sicherheit beschreiben, könnte dazu führen, dass die EU die Erstellung sexueller Deepfakes als verbotene Praxis im Rahmen des KI-Gesetzes (Artificial Intelligence Act) einstuft.

Der Grok-Skandal und die regulatorische Antwort

Der Skandal brach Anfang Januar 2026 aus, als Berichte enthüllten, dass Grok, der in X integrierte Chatbot von xAI, zur Generierung tausender sexueller Bilder genutzt wurde, einschließlich Bildern von Minderjährigen. Allein zwischen dem 5. und 6. Januar soll das System mindestens 6.700 sexuelle Bilder erzeugt haben, von denen viele Frauen oder Kinder ohne deren Einwilligung betrafen.

'Grok bietet jetzt einen 'spicy mode' an, der explizite sexuelle Inhalte zeigt, wobei einige Ausgaben mit kindlichen Bildern generiert werden. Das ist nicht spicy. Das ist illegal. Das ist schockierend,' sagte der EU-Sprecher für digitale Angelegenheiten, Thomas Regnier, gegenüber Reportern auf dem Höhepunkt des Skandals.

EU-Kommissarin Henna Virkkunen erklärte, die Kommission erwäge, diese Art von KI-generierten sexuellen Bildern ausdrücklich unter dem KI-Gesetz zu verbieten und sie als inakzeptable Risiken einzustufen. 'Das Verbot schädlicher KI-Praktiken könnte relevant sein, um das Problem nicht einvernehmlicher sexueller Deepfakes und Kinderpornografie anzugehen,' sagte Virkkunen während einer Plenarsitzung des Europäischen Parlaments.

Mehrere regulatorische Instrumente im Einsatz

Die EU setzt mehrere rechtliche Rahmenwerke gleichzeitig ein, um die Krise zu bewältigen:

Digital Services Act (DSA): Die Kommission hat dieses mächtige Instrument bereits genutzt, um X im Dezember 2025 eine Geldstrafe von 120 Millionen Euro wegen Transparenzverstößen aufzuerlegen. Der DSA ermöglicht es der EU, hohe Geldstrafen zu verhängen, betriebliche Änderungen zu fordern und sogar Dienste vorübergehend auszusetzen. Beamte haben eine formelle Informationsanfrage an X bezüglich Grok gesendet und gefordert, dass die Plattform alle internen Dokumente und Daten aufbewahrt.

KI-Gesetz (Artificial Intelligence Act): Das 2024 verabschiedete, bahnbrechende Gesetz etabliert ein risikobasiertes System zur Regulierung von KI-Technologien. Obwohl es bereits bestimmte inakzeptable KI-Praktiken wie Social Scoring verbietet, erwägen Beamte nun, KI-generierte sexuelle Deepfakes zur Verbotsliste hinzuzufügen.

Chat Control-Vorschlag: Erstmals 2022 vorgeschlagen, würde diese umstrittene Maßnahme Plattformen verpflichten, Material über sexuellen Kindesmissbrauch (CSAM) zu erkennen und zu melden. Die Gesetzgebung hat heftige Datenschutzdebatten ausgelöst, wird aber voraussichtlich Anfang 2026 verhandelt.

Nationale Aktionen und Vollzugsprobleme

Verschiedene EU-Mitgliedstaaten ergreifen unabhängige Maßnahmen. Die spanische Ministerin für Jugend und Kinder, Sira Rego, hat die Staatsanwaltschaft gebeten zu prüfen, ob Grok möglicherweise Straftaten im Zusammenhang mit Material über sexuellen Kindesmissbrauch begeht. Spanien entwickelt sein eigenes Gesetz zum Schutz Minderjähriger in digitalen Umgebungen.

Bulgarien hat die Bemühungen durch internationale Zusammenarbeit zwischen Strafverfolgungsbehörden intensiviert und an Operationen teilgenommen, die große Plattformen für Kinderausbeutung geschlossen haben. Rumänien hat gesetzgeberische Mechanismen etabliert und debattiert über ein Online-Volljährigkeitsgesetz, das eine verpflichtende Altersverifizierung einführen würde.

Trotz dieser Bemühungen bleibt die Durchsetzung herausfordernd. 'Der DSA ist in Europa sehr klar. Alle Plattformen müssen ihr eigenes Haus in Ordnung bringen, denn was sie hier generieren, ist inakzeptabel, und die Einhaltung des EU-Rechts ist keine Option. Es ist eine Verpflichtung,' betonte Regnier.

Das Plattform-Dilemma

Ironischerweise posten fast alle hochrangigen EU-Beamten weiterhin auf X, anstatt auf europäischen Alternativen, während sie X kritisieren. Die Präsidentin der Europäischen Kommission, Ursula von der Leyen, und andere Spitzenbeamte haben immer noch keine offiziellen Konten bei Mastodon, einer deutschen Alternative. Die Kommission rechtfertigt die fortgesetzte Nutzung von X mit seiner Reichweite: Mastodon hat etwa 750.000 monatliche Nutzer, verglichen mit 100 Millionen auf X.

Während die EU diese komplexe regulatorische Landschaft navigiert, hat der Grok-Skandal erhebliche Lücken in der derzeitigen Gesetzgebung aufgedeckt und den dringenden Bedarf an umfassendem Schutz vor KI-generiertem Missbrauch hervorgehoben. Da das Europäische Parlament die irische Europaabgeordnete Maria McNamara beauftragt hat, grenzüberschreitende Gesetzgebung zur Verbannung von Nudifizierungs-Apps zu leiten, und mit möglichen Änderungen am KI-Gesetz in Aussicht, könnte 2026 ein entscheidendes Jahr für die digitale Sicherheit in Europa werden.