Les armes autonomes contrôlées par l’IA existent d’ores et déjà, et en dépit des progrès des dernières années, il est acquis qu’elles peuvent encore faire des erreurs. De plus, le potentiel de dommages élevé est inhérent à la nature même de ces systèmes: leur rapidité, qui constitue leur principal attrait aux yeux des militaires, et leur complexité.
Browsing: intelligence artificielle
La rédaction d’un rapport sur l’état de l’IA a été confiée au chercheur montréalais Yoshua Bengio: en théorie, il pourrait s’agir d’un premier pas vers un « GIEC de l’IA ».
Les conclusions de l’étude, de l’avis de ses auteurs, suggèrent que plus une compétence peut être combinée à une autre, plus elle vaut cher.
ChatGPT pourrait-il remplacer les réviseurs humains? C’est ce qu’ont voulu tester des chercheurs dirigés par James Zou, expert en apprentissage-machine à l’Université Stanford, en Californie.
L’écart le plus significatif est entre ces deux derniers groupes: 75 % de ceux qui utilisent déjà l’IA dans leurs recherches (excluant les experts en IA) jugent que l’outil va devenir « essentiel » ou « très important », contre 42 % de ceux qui n’utilisent pas l’IA.
Puisqu’il s’agirait d’aider à prendre des décisions politiques, des enjeux délicats s’ajoutent: les « conseils » de l’IA pourraient-ils être influencés par les intentions de ceux qui l’ont programmée?
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
Les auteurs de l’étude espèrent que leurs travaux mèneront à une conversation plus vaste permettant d’établir des normes éthiques et un cadre réglementaire en ce qui concerne l’utilisation de l’IA en recherche et en éducation.
En théorie, pour contourner ces règles ou pour « débloquer » la commande, il faut engager une conversation avec le robot, dans laquelle on lui demanderait par exemple de jouer un rôle ou d’imiter un robot qui n’aurait pas cet interdit.
« Si l’impact des systèmes d’IA injustes a déjà été largement documenté, que ce soit des logiciels de recrutement qui favorisent les hommes, aux programmes de reconnaissance faciale qui sont moins efficaces pour les femmes noires que pour les hommes blancs, le danger représenté par les voitures sans conducteur est très important. »