« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
« En ce moment, nous avons un problème avec ces modèles, qui sont non seulement biaisés, mais proposent aussi de la désinformation. Cependant, il existe un grand potentiel démocratique pour les citoyens, si nous sommes en mesure d’améliorer les modèles langagiers afin d’offrir des réponses nuancées et de l’information exacte. »
Puisqu’il s’agirait d’aider à prendre des décisions politiques, des enjeux délicats s’ajoutent: les « conseils » de l’IA pourraient-ils être influencés par les intentions de ceux qui l’ont programmée?
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
« Si l’impact des systèmes d’IA injustes a déjà été largement documenté, que ce soit des logiciels de recrutement qui favorisent les hommes, aux programmes de reconnaissance faciale qui sont moins efficaces pour les femmes noires que pour les hommes blancs, le danger représenté par les voitures sans conducteur est très important. »
« La plupart des gens ne comprennent pas complètement comment le système fonctionne, puisque les géants du web ne dévoilent pas les rouages de leurs algorithmes. »
Les chercheurs affirment que leur outil d’analyse sera rendu disponible gratuitement, en plus d’être relativement facile à utiliser pour le public, en venant ainsi « démocratiser la surveillance ».
D’autres variations du test employé amènent ainsi les chercheurs à conclure que le degré de confiance en soi semble affecter la fiabilité de la mémoire à court terme.
À l’échelle mondiale, seulement 22 % des professionnels oeuvrant dans ce domaine sont des femmes, comparativement à 39 % dans l’ensemble des domaines scientifiques.
« Nous devons éliminer l’idée du tout ou rien à propos de l’efficacité de la formation sur les biais, et nous concentrer sur des changements spécifiques. »
