Quelle somme faut-il dépenser pour avoir, au bout des doigts, une armée de créatures numériques capables de causer de véritables dégâts? Pour suivre l’évolution de ce prix, qui témoigne de la facilité à lancer une attaque contre des institutions, des gouvernements, des individus, ou encore saper les bases de la démocratie via les médias sociaux, des chercheurs de l’Université de Cambridge ont décidé d’agir.
Intitulé le Cambridge Online Trust and Safety Index, cet indice permet, affirme-t-on par voie de communiqué, « à la communauté mondiale de suivre, en temps réel, l’état du marché de l’«économie de la manipulation en ligne», soit ces « fermes » qui fabriquent de faux comptes destinés à des robots, ou encore des fraudeurs oeuvrant en ligne ».
Au dire des chercheurs de Cambridge, ces marchés permettent d’acheter des services de vérification via SMS, afin de valider de faux profils sur des centaines de sites web différents, ce qui permet d’accomplir tout ensemble de tâches en ligne, du gonflement des statistiques de fréquentation ou d’écoute à la coordination de campagnes d’influence.
En s’appuyant sur les données représentant un an d’activité de l’indice, dans le cadre d’une analyse dont les résultats ont été publiés dans Science, on constate qu’il n’en coûte que quelques cents pour faire vérifier un compte aux États-Unis ou en Russie, alors que le prix est plus élevé au Japon et en Australie, notamment, « en raison des coûts des cartes SIM et des règles imposant l’authentification avec une photo d’identité ».
Ainsi, pour acheter une vérification chez nos voisins du Sud, le prix ne serait que de 26 cents US l’unité, alors qu’il serait plutôt de 10 cents au Royaume-Uni, ou encore 8 cents en Russie.
Au Japon et en Australie, cependant, on parlerait plutôt de 4,93 $ US et 3,24 $ US, respectivement.
Par ailleurs, on constate, toujours par voie de communiqué, que le prix de faux comptes sur les services Telegram et WhatsApp bondit dans des pays où des élections seront bientôt tenues, « ce qui laisse entendre que la demande pour des opérations d’influence est en hausse », et donc, que les coûts sont à l’avenant.
Pour contrer ce phénomène, les auteurs de l’étude proposent de réglementer le marché des cartes SIM, histoire de « décourager » la manipulation de l’opinion ou des informations en ligne.
Les chercheurs suggèrent également d’afficher le pays d’origine d’un compte sur les médias sociaux, comme l’a brièvement fait la plateforme X, récemment, avant de rebrousser chemin. Cependant, il existerait des moyens de contourner cette protection, un service qui est d’ailleurs offerts sur ces marchés illégaux.
« Nous avons constaté qu’il existait un marché illicite bien en selle, où les faux contenus, la popularité artificielle et des campagnes d’influence de l’opinion politique sont ouvertement offerts aux plus offrants », soutient ainsi le Dr Jon Roozenbeek, l’un des principaux auteurs de l’étude.
« Toutes ces activités nécessitent de faux comptes, et chacun d’entre eux commence avec un numéro de téléphone et une carte SIM. Cette dépendance crée un goulot d’étranglement que nous pouvons cibler pour évaluer l’ampleur de l’aspect financier de la manipulation en ligne. »
Comme le rappelle le Dr Roozenbeek, « un réseau sophistiqué peut mener une campagne d’influence via des centaines de faux comptes ».
« Et l’IA générative signifie que ces bots peuvent maintenant adapter leurs messages pour avoir l’air plus humains, et même chercher à correspondre à d’autres comptes. Les armées de robots deviennent de plus en plus convaincantes et difficiles à identifier », a ajouté le chercheur.
Les auteurs de l’étude évoquentt aussi, toujours par voie de communiqué, de précédents travaux, publiés en 2024, qui ont démontré l’existence, sur la plateforme X, d’un réseau de bots gérant 1140 comptes et utilisant l’IA générative pour entretenir des conversations automatisées.
Moscou et Pékin dans le collimateur
Toujours selon les chercheurs, les gros joueurs du marché de la manipulation en ligne ont un grand nombre de clients en Russie et en Chine, et ce seraient les systèmes de paiement de ces deux pays qui seraient fréquemment utilisés pour défrayer les coûts du recours à ces faux profils.
« Il est difficile de prouver l’implication directe des États dans ce domaine, puisqu’ils s’appuient souvent sur des infrastructures en circuit fermé », a déclaré Anton Dek, un autre des auteurs de l’étude.
« Cependant, nous soupçonnons qu’une partie de ces démarches illicites sont déléguées à de plus petits joueurs dans cette industrie. »
En 2022, déjà, une autre étude coécrite par M. Dek indiquait que pour à peine 10 euros, en moyenne, il était possible d’acheter 90 000 fausses vues ou faux visionnements, ou encore 200 faux commentaires sous une publication en ligne.
« Comprendre le coût de la manipulation en ligne est le premier pas pour démanteler le modèle d’affaires derrière la désinformation. »





