« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
Les armes autonomes contrôlées par l’IA existent d’ores et déjà, et en dépit des progrès des dernières années, il est acquis qu’elles peuvent encore faire des erreurs. De plus, le potentiel de dommages élevé est inhérent à la nature même de ces systèmes: leur rapidité, qui constitue leur principal attrait aux yeux des militaires, et leur complexité.
« Netflix n’est pas une compagnie médiatique. C’est une compagnie technologique. »
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
« La plupart des gens ne comprennent pas complètement comment le système fonctionne, puisque les géants du web ne dévoilent pas les rouages de leurs algorithmes. »
« Il existe une dissémination mondiale, sans frontières, de contenus antisémites sur les médias sociaux, le tout à une échelle jamais vue », dénoncent les spécialistes.
Intégrer ces algorithmes dans de réelles applications pourrait toutefois s’avérer complexe pour les programmeurs et prendra probablement plusieurs années.
Pour éviter de futurs dérapages, les auteurs du rapport recommandent de pouvoir examiner les algorithmes de recommandations des platesformes numériques.
S’appuyer sur le hasard… le plus souvent possible. Pour le reste, fiez-vous à l’ordinateur!
L’un des problèmes d’algorithme les plus connus est lié au calcul du plus court trajet entre deux points. Une variante plus complexe de ce casse-tête consiste à faire passer la trajectoire au sein d’un réseau changeant, que ce soit un réseau routier ou le web. Pendant 40 ans, des chercheurs ont voulu concevoir un algorithme offrant une solution optimale à ce problème. Maintenant, le chercheur en informatique Christian Wulff-Nilsen, de l’Université de Copenhague, croit avoir trouvé une solution en compagnie de deux collègues.
