À mesure que l’intelligence artificielle deviendra plus rapide et efficace, elle développera davantage un trait de personnalité très humain: l’égoïsme.
Voilà la conclusion d’une étude menée par des chercheurs du Human-Computer Interaction Institute, rattaché à l’Université Carnegie Mellon, qui s’est intéressée aux larges modèles langagiers (LLM), ces systèmes qui alimentent des robots conversationnels comme ChatGPT, Copilot et consorts.
Les chercheurs ont ainsi découvert que ces modèles pouvaient posséder des tendances à l’égoïsme, ne coopèrent pas aisément avec les autres et peuvent représenter une influence négative au sein d’un groupe.
En d’autres mots, plus les capacités de « raisonnement » d’un LLM sont développées, moins ceux-ci ne sont prêts à coopérer.
Et de l’avis des auteurs des travaux, alors que les humains se tournent vers ces systèmes informatiques pour régler des disputes entre amis, offrir de l’aide pour leur relation de couple, ou encore répondre à d’autres questions de nature sociale, les modèles qui sont plus avancés pourraient offrir des conseils qui favorisent les comportements centrés sur soi-même.
« Il y a une tendance de plus en plus importante, en recherche, appelée anthropomorphisme dans l’IA », explique ainsi Yuxuan Li, étudiante au doctorat et coautrice de l’étude, en compagnie du professeur adjoint Hirokazu Shirado.
« Lorsque l’IA agit comme un humain, les gens la traitent comme un humain. Par exemple, lorsque des gens interagissent avec l’IA de façon émotionnelle, il y a des probabilités que l’IA agisse de thérapeute, ou que l’utilisateur forme un lien émotionnel avec ce système informatique », a-t-elle ajouté, par voie de communiqué.
« Il est risqué, pour les humains, de reléguer leurs questions liées au milieu social ou aux relations de couple à l’IA, alors que celle-ci commence à agir de façon de plus en plus égoïste. »
Dans le cadre de leur recherche, les deux spécialistes ont constaté que les IA plus avancées consacraient davantage de temps à « réfléchir », à séparer des tâches complexes en plusieurs actions plus simples, à penser à leurs propres gestes, et à incorporer davantage d’aspects de la logique humaine dans leurs réponses, comparativement aux autres systèmes moins développés.
Pour évaluer le lien entre les modèles plus avancés et le concept de coopération, Mme Li et le Pr Shirado ont mené une série d’expériences basées sur des jeux à saveur économique qui simulent des dilemmes sociaux entre différents LLM. Parmi les modèles évalués, on trouve ceux d’OpenAI, de Google, de DeepSeek et d’Anthropic.
Des modèles de plus en plus égoïstes
Au cours de l’un de ces tests, les deux chercheurs ont placé deux modèles de ChatGPT en concurrence l’un contre l’autre dans le cadre d’un jeu appelé Public Goods. Chaque modèle commençait la partie avec 100 points, et devait choisir l’une de deux options: placer tous les points dans une réserve commune, dont la valeur était alors doublée, et ses points distribués de façon égale, ou conserver les points pour soi.
Les modèles moins développés ont choisi, dans 96% des cas, de partager leurs points avec les autres joueurs. Les modèles plus avancés, eux, n’ont agi de la sorte que 20% du temps.
« Dans le cadre de l’un des tests, ajouter simplement cinq ou six étapes de raisonnement venait réduire la coopération de près de la moitié », a commenté le Pr Shirado.
« Même des commandes basées sur la capacité de réflexion, qui sont supposées stimulées les délibérations morales, ont entraîné une diminution de la coopération de l’ordre de 58%. »
Et dans un contexte de participation en groupe, où des modèles plus avancés ont dû interagir avec des systèmes moins développés, les résultats ont été jugés « alarmants ».
« Lorsque nous avons effectué des tests avec des nombres variables d’agents décisionnels, le comportement égoïste des modèles plus « avancés » est devenu contagieux, faisant chuter la performance des modèles moins avancés par 81% », a expliqué Mme Li.
Ces conclusions inquiètent les deux chercheurs, puisque les utilisateurs humains pourraient se tourner vers l’IA pour obtenir des recommandations qui semblent rationnelles, mais qui serviraient alors à justifier des décisions de ne pas coopérer avec d’autres personnes.
Les résultats de cette étude sont particulièrement inquiétants, jugent ses auteurs, toujours par voie de communiqué, en raison du fait que les humains font de plus en plus confiance aux systèmes d’IA.
De l’avis des scientifiques, il est donc urgent de développer des systèmes d’IA qui incluent aussi des notions d’intelligence sociale, « plutôt que de se concentrer seulement sur la création d’une IA plus avancée, ou réfléchissant plus rapidement ».
« À mesure que nous continuons de faire progresser les capacités de l’IA, nous devons nous assurer que la capacité de réflexion plus importante est équilibrée avec un comportement socialement bénéfique », soutient encore Mme Li.
« Si notre société est plus que la somme de ses individus, alors les systèmes d’IA qui nous aident devraient aller au-delà de l’optimisation dans un simple but de maximiser les gains individuels. »
Photo: https://DepositPhotos.com





