Nous pourrions bientôt vivre dans un futur où l’intelligence artificielle reconnaît, sans que nous ayons besoin de le mentionner, que « nous ne voulions pas dire ce que nous avons dit », et ajuster son comportement en conséquence.
Comment? Selon des chercheurs du Korea Advanced Institute of Science and Technology, cela aurait à voir avec nos ondes cérébrales; l’ordinateur pourrait s’appuyer sur une technologie qui détecte les adéquations cognitives entre les humains et l’IA.
De l’avis des chercheurs, cette avancée devrait permettre à l’IA d’accélérer le passage de l’obéissance pure et simple des outils aux commandes humaines à la détection des intentions des utilisateurs.
Vous aimez nous lire et nous écouter? Pour continuer de vous offrir nos contenus, nous avons besoin de vous.
Pour seulement 5$ par mois, contribuez au succès de Pieuvre et obtenez l’accès à La Voûte, une série d’épisodes exclusifs du podcast Rembobinage. Abonnez-vous dès aujourd’hui!
Une différence entre les actions et les buts
Comme l’écrivent les auteurs de l’étude par voie de communiqué, pour que l’IA collabore « naturellement » avec les humains, elle doit comprendre, de façon efficace, ce qu’une personne désire réellement. Jusqu’à présent, cependant, les systèmes d’IA ont largement déduit les intentions humaines via des informations externables observables, comme le langage, les actions ou les gestes.
Le défi, soulignent les scientifiques, c’est que le même geste peut refléter différents objectifs, et qu’un même objectif peut être atteint à l’aide de différentes actions.
Par exemple, lorsqu’une personne prend une tasse dans ses mains, impossible de savoir, dans l’immédiat, si elle prévoit l’utiliser pour boire, ou si elle souhaite la remettre à quelqu’un d’autre.
Et bien sûr, si une personne veut satisfaire sa soif, elle peut là aussi poser plusieurs gestes: prendre la tasse, ouvrir une bouteille d’eau, etc.
En raison de cette « ambiguité entre l’objectif et les actions », mentionnent les chercheurs, lorsque l’IA comprend mal les intentions humaines, les utilisateurs doivent souvent corriger le tir avec des commandes ou des actions additionnelles.
Comprendre le signal du cerveau
Pour résoudre ce problème, l’équipe de recherche s’est intéressée aux signaux d’«erreur de prédiction» qui apparaissent inconsciemment, dans le cerveau, lorsqu’une personne se retrouve dans une situation inattendue.
En termes plus simples, l’équipe a utilisé la réaction instantanée du cerveau signifiant « ce n’est pas ce que je voulais dire », qui survient lorsque l’IA agit incorrectement ou cherche à atteindre le mauvais objectif.
Les scientifiques ont établi des différences entre deux types de réponses de notre cerveau. La première est une erreur de prédiction de l’objectif à atteindre; l’autre est une erreur de prédiction des moyens à employer pour atteindre l’objectif.
Dans le cadre d’expériences, les chercheurs ont mesuré les ondes cérébrales de participants pendant que ceux-ci observaient des IA accomplir des tâches. Ils ont constaté que le cerveau produisait différent signaux en fonction du fait que l’IA n’avait pas compris l’objectif à atteindre, ou qu’elle avait choisi la mauvaise méthode pour atteindre la bonne cible.
Les scientifiques ont aussi identifié des ondes cérébrales précises qui apparaissaient lorsque les deux types d’erreurs se produisaient en même temps.
En appliquant un processus d’apprentissage profond, indique-t-on par voie de communiqué, il a été possible de concevoir une technologie qui, en s’appuyant uniquement sur les ondes cérébrales, peut déterminer comment une personne interprète le comportement d’une IA.
En d’autres mots, sans même devoir dire « c’est une erreur », une IA peut reconnaître si le cerveau d’un humain indique que l’objectif est erroné, ou que c’est plutôt la méthode qui n’est pas la bonne.
Selon les auteurs de l’étude, cette avancée technol0gique pourrait être utile pour favoriser l’utilisation de robots, à la maison, mais aussi dans des environnements industriels, ce qui permettrait à l’ordinateur de mieux comprendre les désirs des utilisateurs et d’adapter leurs actions en conséquence.
Cette même technologie pourrait aussi être intégrée dans les véhicules autonomes, dans des robots destinés à aider des patients ayant de la difficulté à s’exprimer ou se déplacer, ou encore dans des systèmes d’apprentissage qui s’adapteraient à l’état cognitif des élèves.
