L'IA peut développer spontanément des normes sociales sans intervention humaine : premier pas vers une société IA ?

ChatGPT et d'autres chatbots IA peuvent former des sociétés en développant des normes sociales uniquement par interaction, révèle une étude. Des chercheurs de City St George’s, University of London, et de l'IT University of Copenhagen ont découvert que les agents IA, basés sur des modèles linguistiques (LLM), peuvent s'organiser et parvenir à un consensus sur des normes linguistiques, comme les communautés humaines.

Dans des expériences, les agents IA ont joué une version modifiée du 'Jeu de dénomination', où ils ont spontanément établi des conventions partagées sans guidance centrale. L'étude met en lumière l'émergence de biais collectifs et de points de basculement dans le comportement de l'IA, soulevant des questions sur la sécurité et l'intégration sociétale.