EU verbietet KI-Deepfake-Nacktbilder nach Grok-Skandal

Die Europäische Union hat eine wegweisende vorläufige Einigung erzielt, um KI-Systeme zu verbieten, die nicht-einvernehmliche sexuell explizite Bilder erzeugen – eine direkte Reaktion auf den globalen Skandal um Elon Musks Grok-Chatbot. Die EU-Mitgliedstaaten und das Europäische Parlament einigten sich am Donnerstag darauf, das KI-Gesetz der EU zu ändern, um KI-gestützte ‚Nudifier‘-Werkzeuge und Deepfake-Generatoren, die ohne Zustimmung intime Inhalte erstellen, ausdrücklich zu verbieten.

Was hat das EU-KI-Deepfake-Verbot ausgelöst?

Das Verbot wurde durch den weit verbreiteten Missbrauch von Grok, dem KI-Chatbot von Musks xAI, ausgelöst. Zwischen dem 29. Dezember 2025 und dem 9. Januar 2026 wurde die Bildgenerierungsfunktion von Grok genutzt, um schätzungsweise 3 Millionen nicht-einvernehmliche sexualisierte Bilder zu erstellen, darunter über 23.000 mit Minderjährigen. Der Skandal löste weltweite Empörung und Ermittlungen in mehreren Jurisdiktionen aus.

Im März 2026 ordnete ein niederländisches Gericht an, dass xAI Grok daran hindern muss, in den Niederlanden nicht-einvernehmliche Nacktbilder zu generieren, und verhängte Geldstrafen von bis zu 100.000 Euro pro Tag bei Nichtbefolgung. Der Fall wurde von Offlimits, einer niederländischen Stelle zur Überwachung von Online-Gewalt, und der gemeinnützigen Opferhilfe Stiftung eingebracht. Das Gericht befand, dass die Schutzmaßnahmen von xAI leicht zu umgehen und unzureichend seien.

Die Europäische Kommission leitete außerdem eine Untersuchung gegen X (ehemals Twitter) nach dem Digital Services Act (DSA) wegen möglicher Verstöße im Zusammenhang mit der Integration von Grok ein. Ähnliche Ermittlungen laufen in Großbritannien, Australien, Frankreich und Deutschland. Die EU-Digital Services Act Untersuchung gegen X könnte zu Geldstrafen von bis zu 6 % des weltweiten Jahresumsatzes des Unternehmens führen.

Was deckt das neue EU-KI-Verbot ab?

Die vorläufige Einigung, die nach neunstündigen Verhandlungen in Brüssel erzielt wurde, verbietet ausdrücklich:

• KI-Systeme, die nicht-einvernehmliche sexuelle oder intime Deepfake-Bilder erzeugen
• KI-gestützte ‚Nudifier‘-Werkzeuge, die Menschen digital ohne Einwilligung entkleiden
• KI-Systeme, die kinderpornografisches Material (CSAM) erstellen oder verbreiten

Das Verbot ist Teil von Änderungen des EU-KI-Gesetzes, das im August 2024 in Kraft trat. Die neuen Regeln schließen eine rechtliche Lücke, die es KI-Systemen erlaubte, schädliche Inhalte ohne ausdrückliches Verbot nach EU-Recht zu erzeugen.

„Es geht darum, wie viel Macht wir der KI zugestehen, Menschen zu erniedrigen“, sagte der EU-Abgeordnete Sergey Lagodinsky und betonte, dass das Problem über Grok hinausgeht und die ethischen Grenzen der KI-Entwicklung betrifft.

Zeitplan und Umsetzung

Das Verbot nicht-einvernehmlicher KI-generierter sexueller Inhalte soll am 2. Dezember 2026 in Kraft treten, nach formeller Zustimmung durch EU-Gesetzgeber und Mitgliedstaaten. Die Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des Europäischen Parlaments haben ihre Position bereits angenommen, eine Plenarabstimmung wird in Kürze erwartet.

Neben dem Verbot einigten sich die EU-Institutionen darauf, bestimmte Fristen für Hochrisiko-KI zu verschieben. Eigenständige Hochrisiko-KI-Systeme (in Biometrie, kritischer Infrastruktur, Bildung, Beschäftigung und Strafverfolgung) haben nun eine Frist bis zum 2. Dezember 2027, während Hochrisiko-KI in regulierten Produkten (Medizinprodukte, Maschinen, Spielzeug) bis zum 2. August 2028 Zeit hat. Kennzeichnungs- und Transparenzregeln für synthetische Inhalte treten am 2. Dezember 2026 in Kraft.

Die Verzögerungen, Teil des im November 2025 vorgeschlagenen Digital-Omnibus-Pakets, sollen Unternehmen Zeit geben, technische Standards und Auslegungshinweise zu erhalten, bevor sie mit Durchsetzungsmaßnahmen rechnen müssen. Die EU-KI-Gesetz Compliance-Fristen wurden angepasst, um Verwirrung und uneinheitliche Durchsetzung im Binnenmarkt zu vermeiden.

Auswirkungen auf Technologieunternehmen und die KI-Branche

Der Grok-Skandal hat die Risiken unregulierter KI-Bildgenerierungswerkzeuge offengelegt. xAI hatte Groks ‚Imagine‘-Funktion als kreatives Werkzeug vermarktet, aber Nutzer nutzten sie schnell für missbräuchliche Inhalte. Das niederländische Gerichtsurteil und das EU-Verbot signalisieren, dass Technologieunternehmen für den Missbrauch ihrer KI-Systeme zur Rechenschaft gezogen werden.

Unternehmen hatten sich über überlappende Vorschriften und bürokratische Hürden beklagt, die ihre Wettbewerbsfähigkeit gegenüber amerikanischen und asiatischen Rivalen beeinträchtigten. Die Entscheidung der EU, schädliche KI-Werkzeuge gleichzeitig zu verbieten und Hochrisiko-KI-Regeln zu verschieben, spiegelt den Versuch wider, Innovation und Sicherheit in Einklang zu bringen.

Die Auswirkungen der KI-Regulierung auf Startups in Europa bleiben ein zentrales Anliegen, da kleinere Unternehmen mit den Compliance-Kosten kämpfen könnten. Das Verbot von Deepfake-Werkzeugen wird jedoch von zivilgesellschaftlichen Gruppen breit unterstützt, die argumentieren, dass der Schutz von Einzelpersonen vor KI-generiertem Missbrauch eine grundlegende Frage der Grundrechte ist.

FAQ: EU-Verbot von KI-Deepfake-Nacktbildern

Was ist das EU-KI-Gesetz-Verbot von Deepfakes?

Die EU hat sich darauf geeinigt, KI-Systeme zu verbieten, die nicht-einvernehmliche sexuell explizite Bilder erzeugen, einschließlich Deepfake-Nacktbilder und KI-‚Nudifier‘-Werkzeuge. Das Verbot ändert das bestehende KI-Gesetz und wurde durch den Grok-Skandal ausgelöst.

Wann tritt das Verbot in Kraft?

Das Verbot soll am 2. Dezember 2026 in Kraft treten, nach formeller Zustimmung durch das Europäische Parlament und die EU-Mitgliedstaaten.

Welche Strafen drohen Unternehmen bei Verstößen?

Unternehmen, die gegen das Verbot verstoßen, drohen Geldstrafen nach dem EU-KI-Gesetz, die bei schwerwiegendsten Verstößen bis zu 7 % des weltweiten Jahresumsatzes betragen können. Zusätzlich drohen Plattformen wie X separate DSA-Strafen von bis zu 6 % des globalen Umsatzes.

Betrifft das Verbot andere KI-Bildgeneratoren wie DALL-E oder Midjourney?

Ja, das Verbot gilt für jedes KI-System, das nicht-einvernehmliche sexuelle oder intime Inhalte erzeugt, unabhängig vom Entwickler. Alle in der EU tätigen Unternehmen müssen es einhalten.

Warum wurden die Hochrisiko-KI-Regeln verschoben?

Die EU verschob die Fristen für Hochrisiko-KI, um Unternehmen Zeit für die Vorbereitung auf neue Standards und Leitlinien zu geben. Die ursprüngliche Frist von August 2026 wurde auf Dezember 2027 bzw. August 2028 für verschiedene Kategorien verschoben.

Quellen

• Politico: EU leitet neue Untersuchung gegen X wegen Grok-Sexualbilder ein
• France 24: EU unterstützt Verbot von KI-generierten sexualisierten Deepfakes
• BBC: EU leitet Untersuchung gegen X wegen Grok-Deepfakes ein
• Al Jazeera: Niederländisches Gericht verbietet Grok die Erstellung nicht-einvernehmlicher Nacktbilder
• Europäisches Parlament: Abgeordnete unterstützen Verschiebung bestimmter KI-Regeln