« La réalité, c’est que vous faites des choix sur ce que vous consommez [comme informations] et aussi ce que vous amplifiez. »
Browsing: algorithmes
Les algorithmes des réseaux sociaux en ajoutent une couche, en donnant la priorité aux messages qui suscitent de « l’engagement » plutôt qu’aux informations vérifiées.
« Nous avons créé une société de science et de technologie dans laquelle personne ne comprend quoi que ce soit de la science et de la technologie, et ce mélange délétère d’ignorance et de pouvoir va tôt ou tard nous éclater en plein visage. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
Les armes autonomes contrôlées par l’IA existent d’ores et déjà, et en dépit des progrès des dernières années, il est acquis qu’elles peuvent encore faire des erreurs. De plus, le potentiel de dommages élevé est inhérent à la nature même de ces systèmes: leur rapidité, qui constitue leur principal attrait aux yeux des militaires, et leur complexité.
« Netflix n’est pas une compagnie médiatique. C’est une compagnie technologique. »
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
« La plupart des gens ne comprennent pas complètement comment le système fonctionne, puisque les géants du web ne dévoilent pas les rouages de leurs algorithmes. »
« Il existe une dissémination mondiale, sans frontières, de contenus antisémites sur les médias sociaux, le tout à une échelle jamais vue », dénoncent les spécialistes.
Intégrer ces algorithmes dans de réelles applications pourrait toutefois s’avérer complexe pour les programmeurs et prendra probablement plusieurs années.
