Certaines de ces informations peuvent même être utilisées dans un contexte politique. Par exemple, en combinant les informations d’une application de suivi du cycle menstruel avec celles d’un outil de géolocalisation, il serait possible de déduire qu’une femme est allée subir un avortement.
En théorie, un pays pourrait règlementer l’usage des données personnelles d’une personne après son décès. Mais en l’absence d’interdit, l’état actuel de la technologie n’est pas si loin de pouvoir permettre cette « expérience ».
« Les conducteurs doivent effectuer plusieurs décisions morales plus réalistes chaque jour. Devrais-je aller plus vite que la limite de vitesse? Devrais-je brûler un feu rouge? Devrais-je me ranger pour laisser passer une ambulance? »
Les armes autonomes contrôlées par l’IA existent d’ores et déjà, et en dépit des progrès des dernières années, il est acquis qu’elles peuvent encore faire des erreurs. De plus, le potentiel de dommages élevé est inhérent à la nature même de ces systèmes: leur rapidité, qui constitue leur principal attrait aux yeux des militaires, et leur complexité.
À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.
« Les personnes fortement motivées à trouver et partager des contenus antivaccins ne font donc qu’utiliser le système de la façon dont il a été conçu, ce qui vient compliquer le fait d’équilibrer ces comportements par rapport aux enjeux de santé publique ou de sécurité. »
« Si l’impact des systèmes d’IA injustes a déjà été largement documenté, que ce soit des logiciels de recrutement qui favorisent les hommes, aux programmes de reconnaissance faciale qui sont moins efficaces pour les femmes noires que pour les hommes blancs, le danger représenté par les voitures sans conducteur est très important. »
« La plupart des gens ne comprennent pas complètement comment le système fonctionne, puisque les géants du web ne dévoilent pas les rouages de leurs algorithmes. »
Utiliser son esprit critique et vérifier la source avant de partager une image restent les meilleures défenses contre la diffusion de ces images trafiquées. Pour ne pas ajouter soi-même à la désinformation!
L’étude présente aussi des conclusions qui suscitent des inquiétudes en ce qui concerne de possibles violations éthiques de la notion de copie directe lorsqu’il est question des méthodes d’apprentissage profond.
