Selon les auteurs des travaux, les modèles langagiers ont eu besoin d’environ 1,6 seconde pour comprendre la commande d’un passager, ce qui est considéré comme acceptable, dans un contexte non-urgent, « mais qui devrait être amélioré pour les situations où un véhicule doit réagir plus vite ».
« Cette collaboration en matière de perception permet aux véhicules connectés et autonomes de « voir » davantage qu’ils ne pourraient le faire par eux-mêmes, en combinant les capacités de détection et les analyses fournies par un réseau de véhicules, mais cela vient avec de graves risques en matière de sécurité. »
Ce qui en ressort, c’est que le véhicule autonome s’en sort mieux dans presque tous les « scénarios », concluent les deux chercheurs dans la revue Nature Communications. Mais jusqu’à cinq fois moins bien à l’aube ou au crépuscule. Et deux fois moins bien aux intersections.
Au dire des chercheurs, les premiers résultats sont encourageants, mais Musashi a encore bien des croûtes à manger avant d’être prêt pour conduire sur une route ouverte au public.
« Les conclusions démontrent que la façon dont l’autonomie des robots est perçue – et, ultimement, la façon dont on juge leur possible culpabilité – est influencée, de façon très subtile, par la méthode employée pour les décrire. »
« Les conducteurs doivent effectuer plusieurs décisions morales plus réalistes chaque jour. Devrais-je aller plus vite que la limite de vitesse? Devrais-je brûler un feu rouge? Devrais-je me ranger pour laisser passer une ambulance? »
Une attaque Poltergeist pourrait faire « disparaître » un objet, y compris une personne ou une autre voiture, poussant le véhicule à continuer d’avancer et ainsi foncer dans cet « objet » rendu invisible.
« Si l’impact des systèmes d’IA injustes a déjà été largement documenté, que ce soit des logiciels de recrutement qui favorisent les hommes, aux programmes de reconnaissance faciale qui sont moins efficaces pour les femmes noires que pour les hommes blancs, le danger représenté par les voitures sans conducteur est très important. »
Il y a, pour les ingénieurs, une énorme différence entre les niveaux 4 et 5, soit entre un véhicule automatisé, qui peut conduire sur la plupart des routes, et un véhicule autonome, qui doit conduire sur toutes les routes.
« Si nous maintenons les tendances actuelles en matière de décarbonisation, et le même rythme en ce qui concerne l’amélioration de l’efficacité du matériel informatique, il semble que cela ne sera pas suffisant pour restreindre les émissions polluantes des ordinateurs embarqués à bord des voitures autonomes. »
