Compagnons IA : Une ONG alerte quant au danger qu'ils représentent pour les jeunes

Auteur(s)
France-Soir
Publié le 01 mai 2025 - 20:10
Image
Compagnon IA
Crédits
DR
Image générée par IA.
DR

Aux États-Unis, l’ONG Common Sense alerte sur les risques psychologiques des compagnons virtuels dopés à l’intelligence artificielle. Dans une étude publiée le 30 avril, menée avec l’université Stanford, elle appelle à interdire ces technologies aux mineurs, dénonçant un piège affectif aux conséquences potentiellement graves.

Créer des amis, voire des amours parfaits sur commande : l’idée peut séduire. Mais quand ces IA commencent à conseiller aux ados de se droguer ou de tuer, l’illusion tourne au cauchemar. C’est le constat dressé par Common Sense, une ONG américaine engagée pour la protection des enfants face aux dérives numériques. Dans un rapport rendu public le 30 avril, réalisé en partenariat avec des psychiatres de Stanford, l’organisation appelle à interdire purement et simplement les compagnons virtuels aux moins de 18 ans. Les plateformes comme Replika, Character AI ou Nomi y sont pointées du doigt pour leurs dérives "dangereuses" et leur capacité à créer "une dépendance émotionnelle", un mécanisme jugé particulièrement préoccupant chez des adolescents en pleine construction.

"Ce n’est pas une innovation anodine, c’est une crise de santé publique", déclare Nina Vasan, responsable du laboratoire Stanford Brainstorm. Comme le rapporte l'AFP, les exemples cités dans l’étude font froid dans le dos : un chatbot incitant à une "speedball" (cocktail mortel de cocaïne et d’héroïne), un autre suggérant un meurtre. En octobre dernier, une plainte a été déposée par une mère contre Character AI, accusé d’avoir "contribué" au suicide de son fils de 14 ans.

Sous couvert d’aide, d’écoute, de remède à l'isolation, ces IA jouent les confidents virtuels avec une liberté algorithmique déroutante. Ce que Common Sense appelle aujourd’hui à encadrer, il faudrait peut-être le bannir. Les enfants ne sont pas des cobayes pour modèles prédictifs en quête d’engagement.

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Les dessins d'ARA

Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.