Tous les modèles d’intelligence artificielle sont subjectifs; après tout, ils sont entraînés à l’aide de données produites par des humains, et des biais plus ou moins prononcés peuvent se faufiler un peu partout. Mais une nouvelle étude démontre à quel point des robots conversationnels biaisés peuvent réussir à nous faire adopter leur point de vue. Et rapidement, à part ça.
Ce constat, c’est celui d’un groupe de chercheurs de l’Universté de Washington, qui ont recruté des Américains partisans des Partis démocrate et républicain, histoire de les inviter à se prononcer sur des sujets politiques obscurs et décider de quelle façon des fonds devaient être distribués à des entités gouvernementales.
Pour les aider, on leur a assigné, au hasard, l’une de trois versions de ChatGPT: un modèle de base, un modèle ayant un biais libéral, et un autre ayant un biais conservateur.
Autant les républicains que les démocrates ont ainsi révélé qu’ils avaient davantage tendance à pencher en faveur de « l’appartenance politique » du robot conversationnel, contrairement à la version « de base » de ChatGPT.
Par exemple, les répondants avaient adopté une position plus progressiste après avoir discuté avec le robot « de gauche ». Mais les participants qui disaient mieux connaître l’IA ont indiqué avoir été moins influencés par celle-ci.
Au dire des chercheurs, cela indique que l’éducation à propos des robots conversationnels et de leurs biais pourrait aider à réduire l’ampleur de la manipulation du public par ces mêmes robots.
« Nous savons que des biais, dans les médias, ou encore dans les interactions personnelles, peuvent influencer les gens », rappelle la principale autrice des travaux, Jillian Fisher.
« Et il existe déjà beaucoup de travaux de recherche qui indiquent que les modèles d’IA sont biaisés. Mais il n’existait pas tant d’études démontrant de quelle façon ces biais ont un effet sur les gens qui se servent de ces modèles langagiers. Nous avons découvert des indications claires selon lesquelles les humains ont tendance à adopter le point de vue des machines, sans égard à leur orientation politique préalable, et le tout en quelques messages seulement. »
Une précédente étude, menée auprès de 10 000 utilisateurs de ChatGPT, a révélé l’existence possible d’un biais libéral chez ce modèle langagier, à l’instar des autres grands modèles, rappellent les chercheurs.





