Fermer le menu
Pieuvre
    Facebook X (Twitter) Instagram
    PieuvrePieuvre
    • Accueil
      • Qui sommes-nous?
      • Travaillez avec nous
      • Work with us
      • Abonnez-vous à l’infolettre
      • Encouragez Pieuvre
      • Nos abonnés
      • Contactez-nous
    • Culturel
      • Festivals
        • Cinémania
        • Fantasia
        • FIFA
        • FIJM
        • FIL
        • FNC
        • Fringe
        • FTA
        • Image+Nation
        • OFFTA
        • Montréal complètement cirque
        • Mutek
        • Nuits d’Afrique
        • RIDM
        • RVQC
        • Vues d’Afrique
        • Zoofest
      • Arts visuels
      • Cinéma / Télévision
      • Danse
      • Littérature
        • Romans
        • Essais
        • Bandes dessinées
        • Beaux livres
        • Biographie
        • Poésie
        • Recettes
      • Musique
      • Théâtre / Cirque
    • Politique / Économie
      • Politique
      • Économie
      • Afrique
      • Amériques
        • Élections québécoises 2026
      • Asie
      • Europe
      • Moyen-Orient
      • Océanie
    • Science
      • Science
      • Environnement
    • Société
      • Société
      • Médias
      • Santé
      • Vie tentaculaire
      • Jeux de société
      • Jeux de rôle
      • 45 ans du Stade olympique
    • Techno / Jeux
      • Technologie
        • Séance de test
      • Jeux vidéo
        • Jeux préférés de…
        • Rétroctopode
    • Podcasts
      • Entretiens journalistiques
      • Rembobinage
        • La Voûte
        • Projection
      • SVGA
      • Pixels et préjugés
      • Heure supplémentaire
      • Des nouvelles de l’Oncle Sam
      • Dans les coulisses de…
    • Encouragez Pieuvre
    Pieuvre
    Accueil»Technologie»L’intelligence artificielle est-elle sexiste et raciste?
    En s'appuyant sur des bases de données, les robots et autres programmes d'intelligence artificielle intégreraient aussi les biais et les points de vue racistes et sexistes compris dans ces mêmes données.

    L’intelligence artificielle est-elle sexiste et raciste?

    0
    Par Agence Science-Presse le 19 septembre 2023 Technologie

    Des algorithmes d’intelligence artificielle peuvent-ils être sexistes et racistes? Le Détecteur de rumeurs a identifié plusieurs exemples qui favorisent effectivement la discrimination.

    Des exemples

    En 2014, Amazon a mis au point un logiciel pour analyser les CV des candidats à des postes dans leur entreprise. Le logiciel avait été entraîné grâce à une banque de données contenant le profil des employés embauchés ou promus sur une période de 10 ans. En 2015, l’entreprise a toutefois découvert que le système avait une nette préférence pour les candidats masculins.

    Une étude réalisée en 2017 par une chercheuse de l’Université de Washington a pour sa part montré que le logiciel de reconnaissance vocale de Google était moins efficace pour traiter les voix féminines. Selon l’auteure, cette différence pourrait s’expliquer par le fait que le logiciel serait moins performant pour analyser des voix aiguës.

    En 2018, des chercheurs associés à Microsoft ont testé des applications utilisées pour analyser des images et déterminer le sexe de la personne. Ils ont remarqué que ces applications avaient un taux d’erreur très bas (0,8 %) pour identifier les hommes blancs, mais de 34,7 % pour les femmes noires.

    Enfin, certains algorithmes d’intelligence artificielle développés pour prédire le risque de récidive de jeunes contrevenants présentent des biais racistes, selon une étude réalisée en 2019 en Espagne. Les chercheurs ont observé qu’un homme d’origine étrangère avait deux fois plus de chances d’être incorrectement classé comme à haut risque de récidive qu’un homme d’origine espagnole.

    Des familles de mots stéréotypées

    Ces exemples et bien d’autres sont connus. Et la raison est elle aussi connue : la grande majorité des logiciels d’intelligence artificielle utilisent l’approche de l’apprentissage machine.

    Il s’agit de permettre à l’ordinateur de trouver comment exécuter une tâche le plus efficacement possible, en lui fournissant une énorme quantité de données pour l’entraîner. Le problème est que, dans cette immense quantité de données, peuvent se glisser des biais, des stéréotypes, des préjugés.

    Une branche particulière de l’apprentissage machine s’appelle le traitement du langage naturel. Cette technologie repose entre autres sur l’utilisation des statistiques pour prédire le prochain mot d’une phrase en se basant sur les mots précédents. C’est cette branche qui est derrière le succès des robots comme ChatGPT depuis l’an dernier : ils prédisent des séquences de mots à une vitesse phénoménale.

    Pour ce faire, il faut d’abord convertir les mots en nombre, grâce à une approche appelée la vectorisation de mots. Cela permet de regrouper les termes avec un sens similaire.

    Or, dès 2016, une étude américaine avait montré que ces ensembles de mots contenaient des biais qui reflétaient les stéréotypes présents dans la société: la femme « ménagère » (homemaker) et l’homme informaticien, par exemple. Une autre étude réalisée en 2017 a par ailleurs conclu que la vectorisation de mots associe généralement les femmes à des mots concernant la famille et les arts alors qu’elle associe les hommes à des mots en lien avec la carrière, la science et la technologie.

    On peut observer soi-même ce phénomène en utilisant Google Translate. Si on demande à l’algorithme de traduire « la médecin et l’infirmier » en anglais, on obtient « the doctor and the nurse », des mots non-genrés. Cependant, si on veut faire la traduction inverse, on obtient plutôt « le médecin et l’infirmière ».

    Via Google Translate

    Des données biaisées au départ?

    Dans un article récent discutant des enjeux éthiques de l’intelligence artificielle, l’International Peace Institute (IPI) s’est inquiété de cette question des biais et stéréotypes. Ceux-ci, rappelle le texte, peuvent survenir à différentes étapes de la création des applications: lors du développement de l’algorithme, lors de son entraînement grâce à des banques de données, ou à l’étape de la prise de décision par l’IA.

    Mais c’est la base de données utilisée pour entraîner l’ordinateur qui est l’une des plus importantes sources de biais. Si elle contient elle-même des biais, ceux-ci seront intégrés à l’algorithme. Par exemple, dans le cas du logiciel d’Amazon, le biais négatif envers les femmes reflétait les tendances d’embauche de la compagnie dans les années précédentes. Le logiciel avait en effet été entraîné avec des profils d’employés presque exclusivement masculins.

    Dans le cas de l’étude de Microsoft sur la reconnaissance des visages par l’IA, les chercheurs ont fini par remarquer que les bases de données utilisées pour entraîner les algorithmes étaient composées à près de 80 % de visages à la peau claire. Des chercheurs britanniques sont arrivés à une conclusion similaire en 2021 quand ils ont analysé des algorithmes développés pour détecter les cancers de la peau : les peaux foncées étaient substantiellement sous-représentées dans les banques de données qui servent à entraîner ces algorithmes.

    Peu de diversité chez les programmeurs

    La personne qui conçoit l’algorithme peut aussi lui transférer, consciemment ou non, ses propres biais. Le programmeur peut en effet mettre en place des règles qui contiennent des biais implicites, remarque Brian Uzzi, professeur à l’Université Northwestern dans un article qui s’intéresse aux moyens pour réduire les biais dans l’IA.

    Ce phénomène est illustré par une étude réalisée en 2020 par des chercheurs américains. Ceux-ci ont utilisé différents logiciels de catégorisation d’images pour analyser des photographies des élus du Congrès américain. Ces algorithmes avaient été entraînés avec des banques d’images, elles-mêmes catégorisées par des programmeurs à partir d’un ensemble de mots datant de 1980. Résultat : les étiquettes attribuées aux images de femmes faisaient généralement référence à leur apparence, alors que celles attribuées aux hommes étaient en lien avec leur occupation.

    Piste de solution

    Une des solutions pour diminuer les biais de l’intelligence artificielle semble donc être de diversifier le bassin de programmeurs. De fait, les femmes sont sous-représentées dans les domaines de la programmation, des technologies de l’information, du génie, des mathématiques et de la physique. Par exemple, une enquête réalisée en 2018 par le magazine Wired avait conclu que seulement 12 % des chercheurs de pointe en apprentissage machine étaient des femmes. En 2022, les femmes occupaient seulement 25,8 % des postes techniques chez Meta et les personnes noires, seulement 2,4 %.

    Verdict

    Il est presque inévitable que les logiciels d’intelligence artificielle présentent des biais sexistes ou racistes. À cause du mode même de fonctionnement de l’IA, qui consiste à la nourrir d’immenses bases de données, ces biais reflètent ceux qui, conscients ou inconscients, existent dans notre société, se retrouvent donc dans ces bases de données, et chez les programmeurs.

    Abonnez-vous à notre infolettre tentaculaire

    Encouragez-nous pour le prix d’un café

    Partager. Facebook Twitter Pinterest LinkedIn Tumblr E-mail

    Articles connexes

    13 novembre 2026

    Big Tech rate ses cibles de réduction de GES

    25 octobre 2026

    Pour de l’asphalte plus durable, ajoutez-y du plastique

    12 octobre 2026

    Les parents veulent faire interdire les médias sociaux… même s’ils les utilisent

    Agence Science-Presse
    • Site web
    • X (Twitter)

    Laisser un commentaire Annuler la réponse

    Vous cherchez un contenu?
    Abonnez-vous à l’infolettre!

    Suivez-nous
    Dossiers spéciaux
    • Cinémania
    • FNC
    • Élections québécoises 2026
    • Séance de test
    Nos podcasts
    • Entretiens journalistiques
    • Rembobinage
    • Projection
    • Des nouvelles de l’Oncle Sam
    • SVGA
    • Pixels et préjugés
    • Heure supplémentaire
    • Dans les coulisses de…
    Récemment publié
    17 novembre 2026

    La Smart Wand 2 de LELO, une bonne façon de relaxer… et de décaper les murs

    16 novembre 2026

    Mourir, pointé du doigt, l’horreur à ne pas oublier

    16 novembre 2026

    Phylactères: entrevue avec Anne Villeneuve, créatrice de la BD Trois petits tours pour La Havane

    16 novembre 2026

    Forte baisse du financement de la lutte contre la crise climatique

    16 novembre 2026

    La Gradiva: les cendres de Cupidon

    Informations
    • Votre semaine tentaculaire
    • Qui sommes-nous?
    • Contactez-nous
    © 2009-2026 Pieuvre.ca. Tous droits réservés.

    Tapez ci-dessus et appuyez sur Entrée pour rechercher. Appuyez sur Échap pour annuler.

    Gérez votre confidentialité

    Pour offrir les meilleures expériences, nous et nos partenaires utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations de l’appareil. Le consentement à ces technologies nous permettra, ainsi qu’à nos partenaires, de traiter des données personnelles telles que le comportement de navigation ou des ID uniques sur ce site et afficher des publicités (non-) personnalisées. Ne pas consentir ou retirer son consentement peut nuire à certaines fonctionnalités et fonctions.

    Cliquez ci-dessous pour accepter ce qui précède ou faites des choix détaillés. Vos choix seront appliqués uniquement à ce site. Vous pouvez modifier vos réglages à tout moment, y compris le retrait de votre consentement, en utilisant les boutons de la politique de cookies, ou en cliquant sur l’onglet de gestion du consentement en bas de l’écran.

    Fonctionnel Toujours activé
    Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
    Préférences
    L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
    Statistiques
    Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques. Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
    Marketing
    Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
    Statistiques

    Marketing

    Fonctionnalités
    Toujours activé

    Fonctionnalités spéciales

    Finalités spéciales
    Toujours activé

    • Gérer les options
    • Gérer les services
    • Gérer {vendor_count} fournisseurs
    • En savoir plus sur ces finalités
    Gérer les options
    • {title}
    • {title}
    • {title}

    logo

     Ne manquez aucun article ou épisode de podcast: abonnez-vous à l’infolettre!