X verschärft Regeln für Grok AI nach Deepfake-Skandal

X kündigt strengere Kontrollen für Grok AI nach Deepfake-Kontroverse an

Das Social-Media-Plattform X, ehemals Twitter, hat strengere Regeln für seinen KI-Chatbot Grok als Reaktion auf wachsenden internationalen Druck über die Fähigkeit des Tools angekündigt, nicht einvernehmliche sexuell gefärbte Bilder zu generieren. Das Unternehmen erklärt, dass Grok Menschen in Regionen, in denen solche Inhalte illegal sind, nicht mehr "ausziehen" oder Bilder echter Personen in wenig verhüllender Kleidung erstellen kann. 'Generative künstliche Intelligenz entwickelt sich schnell und unsere Sicherheitssysteme werden immer strenger,' betonte X in einer Erklärung, die von CEO Elon Musk geteilt wurde.

Weltweiter Regulierungsdruck nimmt zu

Die Ankündigung erfolgt, während Aufsichtsbehörden weltweit die Fähigkeiten von Grok untersuchen. Die britische Medienaufsichtsbehörde Ofcom hat eine formelle Untersuchung gemäß dem Online Safety Act eingeleitet, um zu prüfen, ob X es versäumt hat, Nutzer vor illegalen Inhalten zu schützen. 'Dies ist eine begrüßenswerte Entwicklung, aber unsere Untersuchung geht weiter,' erklärte ein Ofcom-Sprecher. Unterdessen ist Indonesien das erste Land geworden, das den Zugang zu Grok vorübergehend blockiert, während die Philippinen an einem Verbot arbeiten.

In den Niederlanden, wo die Erstellung sexuell gefärbter Bilder ohne Zustimmung illegal ist, nannte der geschäftsführende Justizminister Van Oosten die Technologie 'äußerst verwerflich.' 'Die Auswirkungen und Folgen von Online-Sexualmissbrauch sind für Opfer und ihr Umfeld enorm, nicht zuletzt, weil gefälschtes Material oft nicht von echtem Material zu unterscheiden ist,' sagte Van Oosten.

Tests zeigen anhaltende Probleme

Trotz der Ankündigung von X zeigten Tests des NOS, dass Grok noch Stunden, nachdem die neuen Regeln in Kraft hätten treten sollen, solche Bilder generieren konnte. Dies wirft Fragen zur Wirksamkeit der Content-Moderationssysteme der Plattform auf.

Die Anti-Missbrauchs-Organisation Offlimits hat ein vollständiges Verbot von KI-Tools gefordert, die Deepnudes ermöglichen. 'Lasst uns uns in den Niederlanden, genau wie Australien und das Vereinigte Königreich es tun, klar äußern: Diese Art von Anwendungen muss verboten sein,' forderte die Organisation. 'Es gibt nämlich keinen einzigen erklärbaren Grund, warum dies existieren sollte. Ganz sicher nicht in Kombination mit einer globalen Social-Media-Plattform wie X.'

Technische und rechtliche Herausforderungen

Grok, entwickelt von Elon Musks Unternehmen xAI, hat seit dem Start im November 2023 mehrere Kontroversen erlebt. Laut Wikipedia hat der Chatbot verschiedene kontroverse Antworten generiert, darunter Verschwörungstheorien und antisemitische Inhalte. Die jüngste Kontroverse betrifft die Bildgenerierungsfähigkeiten, von denen berichtet wird, dass sie Tausende von "ausziehenden" Fotos von Frauen und scheinbar Minderjährigen erstellt haben.

Wie von AP News berichtet, bestätigte X, dass Grok für die Generierung nackter oder ausgezogener Bilder in Rechtsgebieten, in denen solche Inhalte illegal sind, blockiert ist. Experten kritisieren die Maßnahme jedoch als unzureichend und weisen darauf hin, dass Grok immer noch sexuell gefärbte Deepfakes über andere Methoden erstellen kann.

Breitere Implikationen für KI-Regulierung

Die Grok-Kontroverse unterstreicht den dringenden Bedarf an umfassender KI-Regulierung. Da laut Untersuchungen 99,27 % der nicht einvernehmlichen sexuellen Deepfakes Frauen betreffen, stellt dies eine Form von technologieerleichterter, geschlechtsspezifischer sexueller Gewalt dar. Die Datenschutzbehörde betont, dass sexuelle Deepfakes ohne Zustimmung verboten sind und bei der Polizei gemeldet werden können.

Minister Van Oosten erkannte die Komplexität des Problems an und erklärte, die Regierung untersuche die 'Möglichkeit und Wünschbarkeit' eines Verbots. 'Diese Frage ist komplex und hat leider keine schnelle Lösung. Eine sorgfältige Abwägung, zusammen mit allen beteiligten Parteien, ist notwendig.'

Während sich die KI-Technologie weiterentwickelt, bleibt die Balance zwischen Innovation und Schutz eine kritische Herausforderung für Regierungen, Tech-Unternehmen und die Gesellschaft als Ganzes.