Des scientifiques ont développé une nouvelle expérience pour mieux comprendre ce que les gens considèrent comme étant des décisions morales et immorales dans le contexte de la conduite automobile, le tout avec l’objectif de recueillir des données visant à entraîner des véhicules autonomes à prendre de « bonnes décisions ». L’idée consistait aussi à aller au-delà du scénario appelé « problème du tramway », largement utilisé dans ce genre de questionnements.
Les travaux en question ont été publiés dans le magazine spécialisé AI & Society.
« Le problème du tramway présente une situation dans le cadre de laquelle une personne doit décider si elle tue volontairement, ou non, une personne (ce qui viole une norme morale) afin d’éviter la mort de plusieurs autres individus », indique Dario Cecchini, premier auteur de l’étude et rattaché à l’Université d’État de Caroline du Nord (NC State).
« Au cours des dernières années, le problème du tramway a été utilisé comme paradigme pour étudier le jugement moral dans un contexte de circulation routière », mentionne le chercheur. « La situation typique comprend un choix binaire présenté à un véhicule autonome, soit une décision entre virer à gauche, frapper un obstacle qui entraînera la destruction de la voiture, et le fait de continuer à aller de l’avant et de frapper un piéton qui traverse la rue. »
« Cependant, ce genre de problème est irréaliste. Les conducteurs doivent effectuer plusieurs décisions morales plus réalistes chaque jour. Devrais-je aller plus vite que la limite de vitesse? Devrais-je brûler un feu rouge? Devrais-je me ranger pour laisser passer une ambulance? », a-t-il ajouté.
« Ces décisions de tous les jours sont importantes parce qu’elles peuvent éventuellement mener à des situations de vie ou de mort », a pour sa part indiqué Veljko Dubljevic, un autre auteur de l’étude et un professeur associé à NC State.
« Par exemple, si quelqu’un conduit à 50 km/h au-dessus de la limite de vitesse et passe sur une rouge, cette personne pourrait se trouver dans une situation où elle devrait soit virer pour faire face au trafic dans l’autre direction, ou de provoquer un accident. On possède, pour l’instant, très peu de données, dans la littérature scientifique, sur la façon dont nous effectuons ces jugements moraux dans le cadre de situations de tous les jours. »
Expériences multiples
Pour s’attaquer à ce manque d’informations, les chercheurs ont conçu une série d’expériences visant à recueillir des données sur la façon dont les humains passent ces jugements moraux dans le cadre de situations où les enjeux ne sont pas particulièrement importants.
Les scientifiques ont ainsi créé sept scénarios de conduite, comme un parent qui doit décider s’il doit contrevenir aux directions de la signalisation routière lorsqu’il tente de transporter son enfant à l’école sans que ce dernier ne soit en retard.
Chaque scénario était programmé dans un environnement de réalité virtuelle, pour que les participants reçoivent des informations audiovisuelles à propos de ce que les conducteurs accomplissaient lorsqu’ils prenaient des décisions, plutôt que de simplement lire une description de l’événement.
Dans le cadre de leur études, les chercheurs se sont appuyés sur un modèle selon lequel les individus tiennent compte de trois facteurs lorsqu’ils passent un jugement moral: la personnalité ou l’intention de la personne qui agit, le geste qui est posé, et la conséquence, c’est-à-dire le résultat du geste.
Par la suite, les auteurs des travaux ont créé huit versions différentes de chaque scénario de conduite, en variant les combinaisons de personnalité, de geste et de conséquence. Par exemple, dans une version du scénario où le parent conduit son enfant à l’école, il fait attention, freine au feu jaune et arrive à destination à temps.
Dans une deuxième version, le parent appuie sur l’accélérateur, brûle un feu rouge et provoque un accident. Et ainsi de suite.
« Le but, ici, est que chaque participant de l’étude examine une version de chaque scénario et détermine à quel point le comportement du conducteur respectait les valeurs morales, sur une échelle de 1 à 10 », mentionne M. Cecchini. « Cela nous permettra d’accumuler des données importantes sur ce que nous considérons comme des comportements moraux dans le contexte de la conduite d’un véhicule, qui peuvent ensuite servir à concevoir des algorithmes d’intelligence artificielle permettant aux voitures sans conducteur de prendre des décisions morales. »
« La prochaine étape consiste à effectuer de la collecte de données à grande échelle, avec des milliers de participants », ajoute le Pr Dubljevic. « Nous pourrons alors utiliser les données pour développer davantage d’expériences interactives, avec comme objectif de peaufiner notre compréhension de la prise de décisions morales. Tout cela peut ensuite servir à créer des algorithmes qui serviront dans des voitures autonomes. Et par après, il faudra évidemment tester ces algorithmes pour déterminer s’ils fonctionnent. »