« En gros, nos résultats laissent entendre que malgré l’effet bénéfique de l’IA générative sur la créativité individuelle, il est peut-être nécessaire d’offrir une mise en garde, si ce genre de systèmes d’IA est employé plus largement pour accomplir des tâches créatives. »
« Cela démontre qu’une fois que les gens auront accès à un tel algorithme, ils s’appuieraient sur celui-ci et pourraient changer leur comportement. Si l’algorithme soutient que quelque chose est un mensonge, les gens sont prêts à abonder dans ce sens. Cela est inquiétant, et cela démontre que nous devrions être prudents avec cette technologie. »
« Si les gens sentent qu’ils n’ont pas d’autonomie, ils ne seront pas heureux. »
Melissa Malzkuhn, qui enseigne à l’Université Gallaudet de Washington, une institution pour les sourds et malentendants, voit du potentiel dans ce travail, même si elle qualifie certaines des traductions réalisées par l’IA « d’inintelligibles ».
La question de la sécurité des habitants se pose, mais aussi celle des priorités: considérant le nombre énorme de terrains à déminer, les premiers ciblés sont ceux suffisamment loin du front pour être réutilisables à des fins agricoles.
Ce n’est pas seulement un débat sémantique: les mots que nous utilisons ont le pouvoir d’influencer la perception qu’a le public du potentiel de cette technologie, ainsi que la perception des politiciens qui vont devoir tôt ou tard légiférer pour encadrer cette technologie.
Les chercheurs disent espérer que leurs conclusions permettront d’améliorer les politiques publiques en matière de transport et d’infrastructures, en offrant des options ayant fait leurs preuves, histoire que les décideurs améliorent la sécurité routière pour les conducteurs, mais aussi pour les piétons et les cyclistes.
Les scientifiques ont ainsi découvert que leur modèle d’analyse, d’abord conçu pour les humains, avait non seulement réussi à accomplir quatre tâches liées à la classification, mais avait aussi réussi à être plus efficace que d’autres modèles d’apprentissage machine spécifiquement entraînés avec des données liées aux aboiements, avec une efficacité pouvant atteindre 70%.
« En ce moment, nous avons un problème avec ces modèles, qui sont non seulement biaisés, mais proposent aussi de la désinformation. Cependant, il existe un grand potentiel démocratique pour les citoyens, si nous sommes en mesure d’améliorer les modèles langagiers afin d’offrir des réponses nuancées et de l’information exacte. »
Les agents conversationnels ont un potentiel pour vérifier certaines informations fausses, mais sont limités par les bases de données sur lesquelles ils s’appuient, et par leurs propres tendances à « inventer » des réponses. Même les plus efficaces de ces modèles sont encore loin derrière les vérificateurs humains.
