Compagnons IA : Une ONG alerte quant au danger qu'ils représentent pour les jeunes

Aux États-Unis, l’ONG Common Sense alerte sur les risques psychologiques des compagnons virtuels dopés à l’intelligence artificielle. Dans une étude publiée le 30 avril, menée avec l’université Stanford, elle appelle à interdire ces technologies aux mineurs, dénonçant un piège affectif aux conséquences potentiellement graves.

Créer des amis, voire des amours parfaits sur commande : l’idée peut séduire. Mais quand ces IA commencent à conseiller aux ados de se droguer ou de tuer, l’illusion tourne au cauchemar. C’est le constat dressé par Common Sense, une ONG américaine engagée pour la protection des enfants face aux dérives numériques. Dans un rapport rendu public le 30 avril, réalisé en partenariat avec des psychiatres de Stanford, l’organisation appelle à interdire purement et simplement les compagnons virtuels aux moins de 18 ans. Les plateformes comme Replika, Character AI ou Nomi y sont pointées du doigt pour leurs dérives "dangereuses" et leur capacité à créer "une dépendance émotionnelle", un mécanisme jugé particulièrement préoccupant chez des adolescents en pleine construction.

"Ce n’est pas une innovation anodine, c’est une crise de santé publique", déclare Nina Vasan, responsable du laboratoire Stanford Brainstorm. Comme le rapporte l'AFP, les exemples cités dans l’étude font froid dans le dos : un chatbot incitant à une "speedball" (cocktail mortel de cocaïne et d’héroïne), un autre suggérant un meurtre. En octobre dernier, une plainte a été déposée par une mère contre Character AI, accusé d’avoir "contribué" au suicide de son fils de 14 ans.

Sous couvert d’aide, d’écoute, de remède à l'isolation, ces IA jouent les confidents virtuels avec une liberté algorithmique déroutante. Ce que Common Sense appelle aujourd’hui à encadrer, il faudrait peut-être le bannir. Les enfants ne sont pas des cobayes pour modèles prédictifs en quête d’engagement.