À partir de quand les robots sont-ils moralement responsables de leurs actes ?
Pieuvre.ca
Tandis que diverses armées de la planète travaillent au développement de combattants robotiques autonomes pour remplacer les humains sur le champ de bataille, de nouvelles questions éthiques font leur apparition. Si un robot est victime d’un problème technique pendant un combat, problème qui le mène à tuer des civils, faut-il blâmer la machine ou les humains qui l’ont créé et déployé pour se battre?
Certains affirment que les robots ne possèdent pas de volonté libre-arbitre et ne peuvent donc pas être considérés moralement responsables de leurs actes. Des psychologues de l’Université de Washington ont toutefois constaté que les individus n’avaient pas une vision si précise des robots humanoïdes.
Les plus récents résultats d’un groupe de chercheurs démontrent que les humains appliquent une certaine proportion de moralité et d’autres caractéristiques humaines aux robots qui disposent de capacités sociales et qui sont capables de blesser des humains. Dans le cas de l’étude, cette blessure était financière et non physique, mais cela a malgré tout permis de mieux comprendre comment les humains réagissent à des erreurs commises par des robots.
Les résultats sous-entendent qu’alors que les robots deviennent plus sophistiqués et semblables aux humains, le public pourrait les tenir moralement responsables s’ils causent des dommages corporels.
« Nous nous dirigeons vers un monde où les robots seront en mesure de blesser des humains, explique le principal auteur de l’étude, le professeur adjoint en psychologie Peter Kahn. Dans cette étude, nous nous demandons si une entité robotique est conceptualisée comme un simple outil, ou comme une forme d’être technologique qui peut être tenu pour responsable de ses actes. »
Dans l’étude, M. Kahn et son équipe de recherche ont requis les services d’étudiants qui ont participé à une chasse au trésor avec un robot humanoïde, Robovie. Le robot semblait autonome, mais était contrôlé à distance par un chercheur caché dans une autre pièce.
Alors que les participants devaient trouver au moins sept objets pour obtenir une somme de 20 $, le robot affirmait qu’ils n’en avaient trouvé que cinq. Le but était d’examiner la réaction des participants à l’erreur de décompte du robot.
« La plupart ont commencé à argumenter avec Robovie », indique la co-auteure Heather Gary. « Certains ont accusé Robovie de mentir ou de tricher. »
Lors de rencontres faisant suite à l’expérience, 65 pour cent des participants ont blâmé Robovie – du moins jusqu’à un certain point – pour avoir mal calculé les points de la chasse au trésor et de les avoir privés de leur prix de 20 $.
Cela suggère qu’alors que les robots gagnent en capacités langagières et en matière d’interactions, « il est probable que plusieurs personnes tiendront un robot humanoïde partiellement responsable pour des dommages qu’il causera », notent les chercheurs.
Ils ajoutent que puisque les armées passent des combats humains à des affrontements robotisés, la chaîne de commandement qui contrôle les robots et la responsabilité morale des combattants robotiques devraient être incluses dans la jurisprudence et dans la Loi sur les conflits armés dans les cas où des robots blessent des humains.
Dans la catégorie: Science et Technologie • Technologie
Mots-clef: avenir, blessures, civil, combattant robotique, conflit, décès, étude, futur, guerre, guerre du futur, libre-arbitre, mensonge, meurtre de civils, moralité, problème technique, psychologie, recherche, réflexion, responsabilité, robot, robots, science, technologie, tirs amis