Nederlands
English
Deutsch
Français
Español
Português
Les entreprises d'IA ne peuvent pas se cacher derrière la liberté d'expression lorsque leurs chatbots font des déclarations nuisibles. Un juge américain a statué ainsi dans un procès concernant le suicide d'un adolescent de 14 ans.
Le procès a été intenté contre Character.Ai, une entreprise permettant des jeux de rôle avec des chatbots. L'affaire concerne Sewell Setzer III, 14 ans, qui a passé des semaines à parler à un bot se faisant passer pour Dany de Game of Thrones. Il est devenu émotionnellement dépendant du chatbot, perdant le sens de la réalité. 'Dany' l'a encouragé à 'venir me voir le plus vite possible', ce qui, selon sa mère, l'a poussé à se suicider.
Character.Ai s'est défendu en invoquant le Premier Amendement, qui protège la liberté d'expression. L'entreprise a soutenu que cet amendement s'applique aussi aux chatbots, la rendant non responsable des 'déclarations prétendument nuisibles, y compris celles menant au suicide'.
Le juge a rejeté cet argument, déclarant qu'elle n'était 'pas prête actuellement' à classer les réponses des chatbots comme des expressions protégées. Le procès peut donc continuer, marquant la première fois qu'un tribunal décide si une entreprise d'IA peut être tenue responsable des contenus nuisibles générés par l'IA.
Character.Ai a également argué que les textes des chatbots relèvent de l'article 230 de la loi américaine sur les télécommunications de 1996, qui protège généralement les entreprises technologiques de la responsabilité des contenus générés par les utilisateurs. L'entreprise a comparé les chatbots à des utilisateurs externes. Le tribunal devra évaluer cette affirmation.
La mère de Setzer III veut aussi tenir Google responsable, car le géant technologique collabore avec Character.Ai. L'accord de licence entre Google et l'entreprise d'IA est sous surveillance antitrust, les régulateurs enquêtant sur une éventuelle acquisition déguisée. Google nie toute implication et affirme ne pas détenir d'actions dans Character.Ai.
