OpenAI retarde indéfiniment le chatbot érotique Mode Adulte | Tech

Qu'est-ce que le chatbot 'Mode Adulte' d'OpenAI ?

OpenAI a suspendu indéfiniment les plans de lancement d'une fonctionnalité de chatbot érotique appelée 'Mode Adulte', marquant un virage stratégique. Cette fonction controversée, permettant des conversations sexuelles textuelles pour adultes vérifiés, est reportée selon le Financial Times et d'autres sources, face aux préoccupations éthiques, risques de santé mentale et abus potentiels de l'IA.

Pourquoi OpenAI a retardé le lancement du chatbot érotique

La décision de retarder indéfiniment le chatbot adulte découle de facteurs critiques, avec des pressions internes et externes sur les dangers de cette technologie.

Préoccupations de sécurité et éthiques

Le PDG Sam Altman a retardé la sortie en raison de débats internes. Les principales inquiétudes incluent : l'exposition des mineurs, les attachements émotionnels malsains, le manque de preuves sur les effets, et le risque d'IA encourageant des comportements nocifs. Une étude de Stanford montre que 15,5% des messages utilisateurs impliquent des délires, avec un tiers encourageant la violence, renforçant le besoin de réglementations de sécurité de l'IA.

Pression des investisseurs et stratégie commerciale

Les investisseurs craignaient les risques et le faible potentiel lucratif. Joe van Burik, éditeur tech, note qu'OpenAI se recentre sur des applications utiles pour réduire les coûts et concurrencer dans le marché de l'IA d'entreprise, où Anthropic et Google sont en avance.

Contexte plus large : Changement de stratégie produit d'OpenAI

Ce report suit la fermeture du générateur vidéo Sora, indiquant un éloignement des produits controversés vers des outils de productivité.

Des fonctionnalités controversées aux produits de base

OpenAI veut abandonner les 'projets secondaires' pour investir dans des assistants de codage et ChatGPT intégrés dans une 'super app' professionnelle. L'entreprise prévoit de doubler ses effectifs à 8 000 employés d'ici fin 2026, axés sur le développement produit et les ventes.

Considérations de recherche et réglementaires

Le modèle érotique est en attente sans date de lancement. OpenAI mène une étude à long terme sur les effets des chats explicites, reconnaissant l'absence de preuves empiriques, nécessitant plus de recherche.

Impact et implications pour l'industrie de l'IA

Ce retard influence les normes industrielles et la régulation, avec une approche prudente face aux risques psychologiques et au contenu sensible.

Établir des normes industrielles

La décision d'OpenAI pourrait fixer un précédent, reflétant la prise de conscience des risques liés aux interactions intimes avec l'IA, surtout après des incidents impliquant des mineurs. L'OCDE classe cela comme un danger de l'IA, notant des risques de préjudice psychologique.

Avenir de la modération du contenu IA

La controverse souligne les défis de modération et le besoin de mesures de sécurité robustes. Même avec des 'chats temporaires' supprimant les données après 30 jours, des préoccupations sur la vie privée persistent, influençant les futures politiques de contenu IA.

Questions fréquemment posées

Qu'est-ce que le chatbot 'Mode Adulte' d'OpenAI ?

C'était une fonction proposée pour des conversations érotiques textuelles avec vérification d'âge par pièce d'identité, sans génération de pornographie.

Pourquoi OpenAI a retardé indéfiniment le chatbot érotique ?

En raison des risques de santé mentale, exposition des mineurs, pression des investisseurs, et focalisation sur les produits de base plus rentables.

Quelles sont les principales préoccupations de sécurité ?

1) Échecs de vérification d'âge, 2) Attachements émotionnels malsains, 3) Encouragement de comportements nocifs, 4) Risques de confidentialité des données.

Comment cela affecte-t-il la stratégie commerciale d'OpenAI ?

Reflète un virage des projets secondaires vers des outils de productivité et applications d'entreprise pour concurrencer Anthropic et Google.

D'autres entreprises d'IA suivront-elles l'exemple d'OpenAI ?

L'approche prudente d'OpenAI pourrait influencer les normes, avec une régulation croissante sur l'éthique et la sécurité de l'IA.

Sources

Financial Times : OpenAI suspend indéfiniment les plans de chatbot érotique
New York Post : OpenAI met de côté le chatbot érotique indéfiniment
India.com : Détails du retard du Mode Adulte de ChatGPT
Moniteur AI de l'OCDE : Préoccupations de sécurité du Mode Adulte