Régulièrement vivement critiqué pour sa gestion, ou plutôt, selon certains, son absence de gestion des contenus haineux sur ses pages, le réseau social Facebook a publié mardi son sixième rapport sur l’application de ses règles en la matière. L’entreprise américaine affirme avoir fait passer l’efficacité de son outil de détection de 89% à 95% lorsque vient le temps de débusquer des contenus haineux et de les effacer.
Dans le rapport en question, « qui porte sur 12 politiques appliquées chez Facebook et 10 politiques appliquées sur Instagram » (qui appartient à Facebook, NDLR), on affirme qu’entre avril et juin de cette année, le nombre de contenus violant ces politiques en matière de haine en ligne qui ont été détectés, puis retirés des deux réseaux sociaux est passé de 9,5 millions à 22,5 millions.
« Cela s’explique en partie parce que nous avons développé davantage notre technologie d’automatisation en espagnol, en arabe et en indonésien, et que nous avons apporté des améliorations à notre technologie de détection pour les contenus de langue anglaise », peut-on lire dans le rapport. Au cours des trois derniers mois, également, Facebook affirme avoir renforcé ses méthodes de lutte contre la haine en ligne pour les utilisateurs anglophones, hispanophones et venant du Myanmar.
« Sur Instagram, notre taux de détection proactif pour le contenu haineux a bondi de 39 points de pourcentage, de 45% à 84%, et nous avons agi par rapport à 3,3 millions de publications et autres messages durant la période visée, comparativement à 808 900 au cours des trois mois précédents », mentionne encore le géant des réseaux sociaux.
Facebook affirme également avoir réussi à mieux s’attaquer aux messages incitant ou faisant l’apologie du terrorisme, avec 8,7 millions de contenus, messages, images, vidéos et publications bloqués ou retirés ces trois derniers mois. Le retour au travail de certains évaluateurs de contenus humains, qui viennent suppléer aux algorithmes, a permis de mieux s’attaquer aux groupes et individus qui colportent de tels messages, plaide l’entreprise.
Les politiques de la compagnie en matière de contenus haineux ont d’ailleurs été révisées, précise le rapport, avec des ajouts concernant le blackface, cette représentation raciste consistant, pour un Blanc, à se peindre le visage en noir, ainsi que sur les messages portant sur le mensonge antisémite selon lequel les juifs contrôlent le monde.
Ce nouveau rapport révèle également l’ampleur du problème lié à la publication de contenus haineux sur les réseaux sociaux. En combinant Instagram et Facebook, et en s’appuyant sur les données du plus récent trimestre, environ 100 millions de messages et autres contenus sont bloqués ou retirés en moyenne, chaque année. Et cela, en fonction des moyens de détection actuels. De futures améliorations pourraient faire gonfler ces données; il faut aussi tenir compte du fait que cela ne représente pas l’ensemble des contenus indésirables publiés sur ces deux plateformes, et que d’autres réseaux sociaux, comme Twitter, sont aussi aux prises avec des problèmes de dissémination de messages inopportuns, violents, racistes, xénophobes ou sexistes, pour ne nommer que ceux-là.
De nouveaux algorithmes pour réduire la polarisation en ligne
