Pourquoi tant de contenus pédophile sur Instagram
Des chercheurs ont constaté que la plateforme de Meta, Instagram, est devenue un lieu privilégié pour les réseaux pédophiles. Les raisons à cela sont les algorithmes de recommandation de contenus, qui mettent en avant des contenus pédopornographiques, ainsi qu’un problème de traitement des signalements de ce type de contenus, qui aurait depuis été résolu.
Une enquête publiée conjointement par le Wall Street Journal, l’université Stanford et l’université du Massachusetts révèle que les algorithmes d’Instagram promeuvent activement un vaste réseau de comptes dédiés à la vente et à l’achat de contenus pédopornographiques. Non seulement ces contenus sont disponibles sur la plateforme, mais ils sont également mis en avant par les algorithmes dès lors que l’utilisateur a cliqué sur du contenu lié aux abus sexuels sur les mineurs.
En somme, Instagram facilite la mise en relation des pédophiles et les guide vers les acheteurs ou vendeurs de ces contenus.
Manque de mesures dénoncent les chercheurs
Instagram, qui compte plus de 1,3 milliard d’utilisateurs, serait la plateforme où le réseau pédophile est le plus important, d’après les chercheurs de Stanford.
Comparée à d’autres réseaux sociaux, Instagram serait la plus mauvaise élève en la matière, bien qu’elle soit plébiscitée par les adolescents.
Par exemple, sur Twitter, les chercheurs ont trouvé trois fois moins de comptes de revente de contenus pédopornographiques que sur Instagram.
Ces types de comptes ne seraient pas autant recommandés que sur le réseau social de Meta, et ils seraient supprimés beaucoup plus rapidement. Outre le problème lié à l’algorithme, le groupe de Mark Zuckerberg n’aurait pas mis en place les mesures de protection nécessaires, selon David Thiel, technologue en chef à l’Observatoire de l’Internet de Stanford.
Hashtags dédiés pour les pédophiles
Grâce à des hashtags explicites tels que #pedowhore (pédo putain) et #preteensex (sexe pré-adolescent), il est facile de trouver des comptes qui font la promotion de contenus pédopornographiques. Ces comptes proposent, par exemple dans leurs descriptions, des images du mineur pratiquant des actes sexuels avec des animaux. Ils vont jusqu’à organiser des « rencontres » en personne. Les chercheurs ont réussi à identifier de nombreux comptes, mais il leur a été difficile de déterminer l’étendue exacte de ces réseaux pédophiles.
Meta lutte contre le phénomène
Le groupe cofondé par Mark Zuckerberg affirme avoir constitué un groupe de travail en interne dans le but de lutter activement contre ce comportement.
Il aurait interdit à ses systèmes de recommander aux utilisateurs de rechercher des termes liés aux abus sexuels.
De plus, il s’efforce d’empêcher des adultes potentiellement pédophiles de se connecter les uns avec les autres ou de réagir à du contenu posté par ces utilisateurs.
Selon les chercheurs de l’Observatoire de l’Internet de Stanford et du Rescue Lab de l’université du Massachusetts, l’objectif de suivre et de perturber les réseaux pédophiles est loin d’être atteint.
Lors de tests effectués avec des comptes fictifs, ils ont constaté qu’une simple consultation d’un compte lié au réseau pédophile entraînait immédiatement des recommandations de contenus pédopornographiques et de comptes renvoyant vers des sites externes à la plateforme.
Une fois quelques recommandations suivies, les comptes fictifs ont été inondés de contenus montrant des abus sexuels sur des mineurs.
Pour supprimer les publications problématiques, le réseau s’appuie également sur les utilisateurs qui peuvent signaler des contenus illicites.
Cependant, cela ne suffit pas, selon les chercheurs de Stanford. Il faudrait rendre difficile pour les membres des réseaux pédophiles de se connecter les uns aux autres, de trouver du contenu et de cibler des enfants. La plateforme doit empêcher la formation d’une communauté de pédophiles.
Un bug vient aider les pédophiles
De plus, Meta a rencontré un problème de traitement des cas signalés par les utilisateurs. Un « bug » aurait été corrigé, mais cela a laissé sans réponse des signalements de contenus pédopornographiques pendant plusieurs mois. Le groupe travaille toujours à améliorer son système de recommandations. Brian Levine, directeur du Rescue Lab de l’université du Massachusetts, a interrogé : « Est-ce que les avantages économiques en valent la peine lorsqu’ils causent des dommages à ces enfants ? ». Thierry Breton, commissaire européen au Marché intérieur, a exprimé un point de vue similaire en tweetant : « Le code volontaire de Meta concernant la protection des enfants ne fonctionne pas. Mark Zuckerberg doit maintenant s’expliquer et prendre des mesures efficaces.
