Pour l’instant, en-dehors des développeurs des nouveaux modèles, peu de gens savent comment ils fonctionnent, ou plus précisément, « pourquoi un modèle d’IA fait la prévision qu’il fait ».
Browsing: ia
« Plus que jamais, le journalisme nécessite un socle éthique solide et largement reconnu. Avec nos partenaires, nous appelons les journalistes, médias et rédactions du monde entier à s’approprier ces principes, à les proclamer, et à les décliner dans leurs pratiques. »
Les armes autonomes contrôlées par l’IA existent d’ores et déjà, et en dépit des progrès des dernières années, il est acquis qu’elles peuvent encore faire des erreurs. De plus, le potentiel de dommages élevé est inhérent à la nature même de ces systèmes: leur rapidité, qui constitue leur principal attrait aux yeux des militaires, et leur complexité.
La rédaction d’un rapport sur l’état de l’IA a été confiée au chercheur montréalais Yoshua Bengio: en théorie, il pourrait s’agir d’un premier pas vers un « GIEC de l’IA ».
Les conclusions de l’étude, de l’avis de ses auteurs, suggèrent que plus une compétence peut être combinée à une autre, plus elle vaut cher.
ChatGPT pourrait-il remplacer les réviseurs humains? C’est ce qu’ont voulu tester des chercheurs dirigés par James Zou, expert en apprentissage-machine à l’Université Stanford, en Californie.
L’écart le plus significatif est entre ces deux derniers groupes: 75 % de ceux qui utilisent déjà l’IA dans leurs recherches (excluant les experts en IA) jugent que l’outil va devenir « essentiel » ou « très important », contre 42 % de ceux qui n’utilisent pas l’IA.
Puisqu’il s’agirait d’aider à prendre des décisions politiques, des enjeux délicats s’ajoutent: les « conseils » de l’IA pourraient-ils être influencés par les intentions de ceux qui l’ont programmée?
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
Les auteurs de l’étude espèrent que leurs travaux mèneront à une conversation plus vaste permettant d’établir des normes éthiques et un cadre réglementaire en ce qui concerne l’utilisation de l’IA en recherche et en éducation.