L’intelligence artificielle pourrait-elle à la fois torpiller et sauver la démocratie? Si la désinformation politique est monnaie courante, notamment chez nos voisins du sud, entre autres en raison de la capacité de l’IA à produire rapidement des contenus en apparence authentiques, ces mêmes outils pourraient aussi permettre de combattre ces mensonges qui prolifèrent comme de la mauvaise herbe.
Voilà du moins ce que pensent des chercheurs de Caltech, dans une étude récemment publiée dans Royal Society Open Science.
Selon ces spécialistes, il est possible de mettre au point un outil d’IA pour développer des messages visant à « pré-démentir » la désinformation, une technique de communication visant à empêcher la dissémination des mensonges en mettant en garde les gens contre les fausses nouvelles, avant même qu’ils n’y soient confrontés.
Lors de tests de ce système, les auteurs de l’étude auraient été en mesure de contrer une baisse de confiance envers le processus électoral, baisse qui avait été provoquée par la circulation de rumeurs au sein d’un groupe sélect d’électeurs.
S’exprimant par voie de communiqué, les scientifiques affirment que cet effet pouvait encore être mesuré, une semaine après le test, et sans égard à l’affiliation politique des participants.
« Les fausses informations peuvent circuler très largement, avant même que les vérificateurs de faits aient le temps de réagir », affirme Mitchell Linegar, principal auteur des travaux.
« Le pré-démenti offre des informations exactes aux gens avant qu’ils ne soient exposés aux mensonges, ce qui les rend moins susceptibles de croire ces faussetés, avec la possibilité de stopper net la propagation des fausses nouvelles. »
En compagnie de ses collègues, M. Linegar dit avoir cherché à utiliser des informations générées par des modèles langagiers (sur lesquels sont basées les IA génératives) pour aider les électeurs à naviguer « dans un environnement médiatique complexe où il est difficile de séparer la vérité de la fiction ».
Vous aimez nous lire et nous écouter? Pour continuer de vous offrir nos contenus, nous avons besoin de vous.
Pour seulement 5$ par mois, contribuez au succès de Pieuvre et obtenez l’accès à La Voûte, une série d’épisodes exclusifs du podcast Rembobinage. Abonnez-vous dès aujourd’hui!
Une fiction « plus facile à produire »
« Le développement de l’IA a fait en sorte que la fiction est maintenant plus facile à produire – et coûte moins cher –, alors que les informations véridiques coûtent encore beaucoup d’argent. Et donc, les électeurs sont confrontés à un déluge de rumeurs électorales, de mésinformation et de désinformation », indique Betsy Sinclair, l’une des autrices de l’étude.
« Pré-démentir avec l’IA est une stratégie que nous pouvons utiliser pour riposter et permettre aux électeurs de mieux faire la différence entre le vrai et le faux. »
Selon cette chercheuse, cela fait plusieurs années qu’il est tenu pour acquis que le pré-démenti est efficace, mais offrir ce « service » à grande échelle s’est avéré difficile, « puisque cela nécessitait beaucoup d’efforts pour chaque intervention du genre », dit-elle.
« Mais en combinant une commande conçue par des experts humains et des informations électorales vérifiées », le modèle conçu par les chercheurs « pourrait générer des articles de pré-démenti rapidement et sans qu’il soit nécessaire d’avoir davantage d’interventions humaines ».
Pour tester leur outil, les chercheurs ont fait appel à plus de 4000 Américains inscrits sur les listes électorales, et se sont appuyés sur cinq mythes liés à l’élection présidentielle de 2024.
Les participants recevaient, au hasard, un article écrit par un humain qui soutenait l’un de ces cinq mythes électoraux.
Certaines personnes ont ensuite reçu un article de pré-démenti créé par l’IA qui s’attaquait à ce mythe, alors que le reste du groupe recevait un article créé par l’IA à propos d’un autre sujet.
Après cette intervention, les chercheurs ont évalué la croyance des participants dans ces mythes électoraux, leur confiance envers des informations vérifiées, et leur confiance générale envers l’intégrité du processus électoral, avec un suivi une semaine plus tard.
« Les articles de pré-démenti écrits par l’IA étaient tout aussi efficaces que les démentis accompagnés d’une rétroaction humaine, ce qui nous a permis d’utiliser immédiatement l’expertise humaine, et pouvoir s’attaquer aux nouvelles rumeurs rapidement et à peu de frais », indique encore M. Linegar.
L’oeil sur les élections de mi-mandat
De l’avis des chercheurs, ce genre d’outil de pré-démenti sera particulièrement utile à l’approche des élections de mi-mandat, aux États-Unis, qui sont prévues pour novembre.
Après tout, soutient Michael Alvarez, un autre coauteur de l’étude, il existe des efforts délibérés visant à décourager les électeurs à s’intéresser à la chose politique, « ce qui suscite beaucoup d’inquiétude ».
Une démonstration du mode de fonctionnement de cet outil a aussi été rendu public sur le web. Les chercheurs disent espérer travailler avec des gouvernements, des responsables électoraux et d’autres responsables de la communication des instances publiques, histoire d’accroître la confiance de la population envers la démocratie. Et ce, dès que des fausses rumeurs commencent à apparaître.
