Haine sur Internet : comment les réseaux sociaux modèrent-ils les messages abusifs ?
"Les médias sociaux sont malheureusement l'un des outils que les groupes terroristes utilisent pour radicaliser des jeunes gens et que les racistes utilisent pour répandre la violence et la haine", déclarait mardi 31 la commissaire chargée de la Justice, Vera Jourova. C'est pourquoi, Facebook, Twitter, YouTube et Microsoft ont décidé le même jour de signer un code de bonne conduite les engageant à lutter contre les propos haineux distillés en ligne en Europe. Mais comment peuvent-ils filtrer efficacement les millions de contenus publiés chaque jour sur leurs supports?
A l'heure actuelle, chez la plupart des grands réseaux sociaux, les utilisateurs peuvent signaler des contenus problématiques et une équipe d'employés de l'entreprise traite ces signalements et décide de censurer ou non les messages. Mais, mardi, Périscope, a décidé de serrer les vis. Régulièrement sous le feu des critiques depuis sa mise en service, que ce soit à cause du dérapage de Serge Aurier en février, des propos antisémites et sexistes de deux employés de SFR mardi dernier, ou du suicide en direct d'une jeune fille dans une gare francilienne mi-mai, l'application de vidéo en direct de Twitter a créé un système de modération plus rapide et adapté à son mode de fonctionnement. A partir de ce mercredi 1er quand un commentaire sera signalé par une internaute, l'application sélectionnera quelques utilisateurs au hasard pour leur demander si le message est effectivement haineux. Si la majorité approuve, l'auteur du contenu incriminé sera brièvement interdit de commenter. S'il republie un commentaire à nouveau rejeté, il ne pourra plus écrire durant toute la diffusion de la vidéo."Nous avons conçu ce système de sorte qu'il soit le plus discret possible: le processus entier nécessite à peine quelques secondes", explique l'équipe de Periscope dans un billet sur son blog.
D'après Le Monde, Facebook s'intéresse quant à lui à un type de modération reposant davantage sur l'intelligence artificielle. D'après Joaquin Candela, ingénieur responsable de l'apprentissage automatique appliqué dans la firme de Mark Zuckerberg, ces programmes sont de plus en plus efficaces, notamment pour identifier le contenu d'une image. "Ce qui est intéressant, c’est qu’aujourd’hui nous avons plus de photos offensantes signalées par des algorithmes d’intelligence artificielle que par des humains", a-t-il expliqué dans un entretien au site spécialisé TechChrunch. On peut toutefois s'interroger sur le genre de dérives que pourrait engendrer ce type de programmes, Facebook ayant déjà été critiqué à de nombreuses reprises pour censurer plus rapidement les oeuvres d'art que les commentaires djihadistes.
"Il semble que ces plateformes préfèrent censurer des photos de seins plutôt que des appels aux meurtres contre des homos, des Arabes ou des Juifs", dénonçait notamment Sacha Reingewirtz, président l'Union des étudiants juifs de France (UEJF) auprès du Figaro, il y a quelques semaines, après que son association et SOS-Racisme ont épinglé les systèmes de modération de Facebook, Twitter et YouTube dans un rapport. Les jugeant bien trop laxistes, elles ont décidé de les assigner en justice pour non-respect de leurs obligations de modération légales qui imposent aux hébergeurs de supprimer dans un délai raisonnable les contenus manifestement illicites.
À LIRE AUSSI
L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.
Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.
Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.
Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.