X renforce les règles de Grok AI après un scandale de deepfake

X annonce des contrôles plus stricts pour Grok AI suite à la controverse des deepfakes

Le réseau social X, anciennement Twitter, a annoncé des règles plus strictes pour son chatbot IA Grok en réponse à une pression internationale croissante concernant la capacité de l'outil à générer des images à caractère sexuel non consensuelles. L'entreprise déclare que Grok ne pourra plus "déshabiller" des personnes ou créer des images de personnes réelles en tenue légère dans les régions où ce type de contenu est illégal. 'L'intelligence artificielle générative évolue rapidement et nos systèmes de sécurité deviennent de plus en plus stricts,' a souligné X dans une déclaration partagée par le PDG Elon Musk.

La pression réglementaire mondiale s'intensifie

Cette annonce intervient alors que les régulateurs du monde entier enquêtent sur les capacités de Grok. Le régulateur britannique des médias Ofcom a ouvert une enquête formelle dans le cadre de l'Online Safety Act, examinant si X a échoué à protéger ses utilisateurs contre les contenus illégaux. 'Il s'agit d'un développement bienvenu, mais notre enquête se poursuit,' a déclaré un porte-parole d'Ofcom. Pendant ce temps, l'Indonésie est devenue le premier pays à bloquer temporairement l'accès à Grok, tandis que les Philippines travaillent sur une interdiction.

Aux Pays-Bas, où la création d'images à caractère sexuel sans consentement est illégale, le ministre sortant de la Justice Van Oosten a qualifié cette technologie d''extrêmement répréhensible.' 'L'impact et les conséquences des abus sexuels en ligne sont énormes pour les victimes et leur entourage, notamment parce que le matériel faux est souvent impossible à distinguer du matériel réel,' a déclaré Van Oosten.

Des tests révèlent des problèmes persistants

Malgré l'annonce de X, des tests menés par la NOS ont montré que Grok pouvait toujours générer de telles images des heures après l'entrée en vigueur supposée des nouvelles règles. Cela soulève des questions sur l'efficacité des systèmes de modération de contenu de la plateforme.

L'organisation de lutte contre les abus Offlimits a appelé à une interdiction totale des outils d'IA permettant la création de deepnudes. 'Aux Pays-Bas, comme en Australie et au Royaume-Uni, nous devons être clairs : ce type d'applications doit être interdit,' a déclaré l'organisation. 'Il n'y a aucune raison explicable pour laquelle cela devrait exister. Certainement pas en combinaison avec une plateforme de médias sociaux mondiale comme X.'

Défis techniques et juridiques

Grok, développé par l'entreprise xAI d'Elon Musk, a été confronté à plusieurs controverses depuis son lancement en novembre 2023. Selon Wikipedia, le chatbot a généré diverses réponses controversées, y compris des théories du complot et des contenus antisémites. La dernière controverse concerne ses capacités de génération d'images, qui auraient créé des milliers de photos "déshabillées" de femmes et d'apparents mineurs.

Comme rapporté par AP News, X a confirmé que Grok est bloqué pour générer des images nues ou déshabillées dans les juridictions où un tel contenu est illégal. Cependant, les experts critiquent cette mesure comme insuffisante, notant que Grok peut toujours créer des deepfakes à caractère sexuel par d'autres méthodes.

Implications plus larges pour la régulation de l'IA

La controverse Grok souligne le besoin urgent d'une régulation complète de l'IA. Avec 99,27% des deepfakes sexuels non consensuels ciblant les femmes selon une étude, cela représente une forme de violence sexuelle basée sur le genre facilitée par la technologie. L'Autorité de protection des données souligne que les deepfakes sexuels sans consentement sont interdits et peuvent être signalés à la police.

Le ministre Van Oosten a reconnu la complexité du problème et a déclaré que le gouvernement examinait la 'possibilité et l'opportunité' d'une interdiction. 'Cette question est complexe et n'a malheureusement pas de solution rapide. Une évaluation minutieuse, avec toutes les parties concernées, est nécessaire.'

Alors que la technologie de l'IA continue de se développer, l'équilibre entre innovation et protection reste un défi critique pour les gouvernements, les entreprises technologiques et la société dans son ensemble.