« En gros, nos résultats laissent entendre que malgré l’effet bénéfique de l’IA générative sur la créativité individuelle, il est peut-être nécessaire d’offrir une mise en garde, si ce genre de systèmes d’IA est employé plus largement pour accomplir des tâches créatives. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
« Si les gens sentent qu’ils n’ont pas d’autonomie, ils ne seront pas heureux. »
Ce n’est pas seulement un débat sémantique: les mots que nous utilisons ont le pouvoir d’influencer la perception qu’a le public du potentiel de cette technologie, ainsi que la perception des politiciens qui vont devoir tôt ou tard légiférer pour encadrer cette technologie.
Les chercheurs disent espérer que leurs conclusions permettront d’améliorer les politiques publiques en matière de transport et d’infrastructures, en offrant des options ayant fait leurs preuves, histoire que les décideurs améliorent la sécurité routière pour les conducteurs, mais aussi pour les piétons et les cyclistes.
Les scientifiques ont ainsi découvert que leur modèle d’analyse, d’abord conçu pour les humains, avait non seulement réussi à accomplir quatre tâches liées à la classification, mais avait aussi réussi à être plus efficace que d’autres modèles d’apprentissage machine spécifiquement entraînés avec des données liées aux aboiements, avec une efficacité pouvant atteindre 70%.
« En ce moment, nous avons un problème avec ces modèles, qui sont non seulement biaisés, mais proposent aussi de la désinformation. Cependant, il existe un grand potentiel démocratique pour les citoyens, si nous sommes en mesure d’améliorer les modèles langagiers afin d’offrir des réponses nuancées et de l’information exacte. »
Les agents conversationnels ont un potentiel pour vérifier certaines informations fausses, mais sont limités par les bases de données sur lesquelles ils s’appuient, et par leurs propres tendances à « inventer » des réponses. Même les plus efficaces de ces modèles sont encore loin derrière les vérificateurs humains.
Pour l’instant, il est encore possible de détecter certaines des erreurs les plus grossières commises par des IA lorsqu’elles produisent des images : comme des mains à six doigts, des visages flous à l’arrière-plan ou des textes incompréhensibles.
Plutôt qu’être médiocre, ou même être tellement horrible qu’il en devient bon, Atlas est seulement (très) mauvais. Un film qui sera vu des centaines de milliers, voire des millions de fois, seulement parce que Netflix le recommande en lançant le service. Quand seule la force du nombre, le poids technologique d’un géant, peut justifier un tel gâchis, il y a de quoi véritablement souhaiter l’apocalypse robotique…
