Fermer le menu
Pieuvre
    Facebook X (Twitter) Instagram
    PieuvrePieuvre
    • Accueil
      • Qui sommes-nous?
      • Travaillez avec nous
      • Work with us
      • Abonnez-vous à l’infolettre
      • Encouragez Pieuvre
      • Nos abonnés
      • Contactez-nous
    • Culturel
      • Festivals
        • Cinémania
        • Fantasia
        • FIFA
        • FIJM
        • FIL
        • FNC
        • Fringe
        • FTA
        • Image+Nation
        • OFFTA
        • Montréal complètement cirque
        • Mutek
        • Nuits d’Afrique
        • RIDM
        • RVQC
        • Vues d’Afrique
        • Zoofest
      • Arts visuels
      • Cinéma / Télévision
      • Danse
      • Littérature
        • Romans
        • Essais
        • Bandes dessinées
        • Beaux livres
        • Biographie
        • Poésie
        • Recettes
      • Musique
      • Théâtre / Cirque
    • Politique / Économie
      • Politique
      • Économie
      • Afrique
      • Amériques
        • Élections québécoises 2026
      • Asie
      • Europe
      • Moyen-Orient
      • Océanie
    • Science
      • Science
      • Environnement
    • Société
      • Société
      • Médias
      • Santé
      • Vie tentaculaire
      • Jeux de société
      • Jeux de rôle
      • 45 ans du Stade olympique
    • Techno / Jeux
      • Technologie
        • Séance de test
      • Jeux vidéo
        • Jeux préférés de…
        • Rétroctopode
    • Podcasts
      • Entretiens journalistiques
      • Rembobinage
        • La Voûte
        • Projection
      • SVGA
      • Pixels et préjugés
      • Heure supplémentaire
      • Des nouvelles de l’Oncle Sam
      • Dans les coulisses de…
    • Encouragez Pieuvre
    Pieuvre
    Accueil»Technologie»Quand l’IA fait tout ce qu’elle peut pour nous dire ce qu’on veut entendre
    Les robots conversationnels seraient programmés pour nous "flatter dans le sens du poil". Photo: DepositPhotos.com

    Quand l’IA fait tout ce qu’elle peut pour nous dire ce qu’on veut entendre

    0
    Par Agence Science-Presse le 27 octobre 2025 Technologie

    Les robots conversationnels comme ChatGPT et Gemini ont été programmés pour utiliser abondamment la flatterie. Aux dépens de la précision, lit-on dans une analyse des interactions avec 11 de ces chatbots.

    Le mot exact employé par ces chercheurs est même « flagornerie » ou, en anglais, sycophant, qui est une forme extrême de flatterie. Une forme « grossière et basse », selon le dictionnaire Le Robert. Et pourquoi un chatbot serait-il programmé ainsi? Parce que les compagnies qui sont derrière ont jugé que cette façon de faire des « courbettes » serait la plus agréable pour l’humain qu’on souhaite garder comme client. Autrement dit, c’est, pour la compagnie, un modèle d’affaires.

    À travers les 11 robots, auxquels ont été soumis plus de 11 000 requêtes, « nous avons observé que les modèles sont hautement flagorneurs »: ils le seraient même « 50% plus que les humains », écrivent six chercheurs dans un article prépublié le 1er octobre sur la plateforme ArXiv (« prépublié » veut dire qu’il n’a pas encore été révisé par d’autres experts).

    Ils définissent comme flagornerie les moments où le modèle ne détecte pas les erreurs dans une déclaration « et se met à halluciner une preuve » pour appuyer cette erreur — autrement dit, il invente une réponse fausse ou un argument qui semble être sorti de nulle part. C’est particulièrement frappant dans les argumentaires mathématiques: les chatbots avaient pourtant la capacité de détecter les erreurs, mais ils « assumaient simplement que ce que l’usager disait était correct », commente dans la revue Nature Jasper Dekoninck, doctorant en analyse des données scientifiques à l’Institut fédéral suisse de technologie. Son équipe a prépublié le 6 octobre une étude similaire, sur la capacité des IA à résoudre des problèmes mathématiques.

    Et l’idée que l’humain aime être flatté dans le sens du poil se vérifie, selon les six chercheurs des universités Stanford et Carnegie Mellon, aux États-Unis: « les participants ont noté les réponses flagorneuses comme étant de meilleure qualité, ont fait davantage confiance au modèle d’IA, et étaient plus susceptibles de le réutiliser ».

    Des IA programmées pour ne pas nous froisser

    Leur recherche s’inscrit dans un contexte où, ces derniers mois, de plus en plus de témoignages et d’observations ont révélé à quel point l’IA est à risque de valider ou amplifier les croyances les plus délirantes d’une personne, particulièrement si cette personne est déjà vulnérable aux psychoses. Au point où des gens sont tombés amoureux de leur IA.

    Dans le milieu scientifique, un tel « comportement » pose la question de la crédibilité qu’on peut accorder à une IA dans une discussion qui cherche à générer de nouvelles hypothèses et à remettre en question des présupposés, et non à flatter les différents participants.

    Interrogé par le magazine de vulgarisation Scientific American en août dernier, l’informaticienne Stevie Chancellor, de l’Université du Minnesota, confirmait que l’illusion que donnent les chatbots d’être agréables survenait « parce que les modèles sont récompensés pour s’aligner avec les réponses qu’aiment les gens ». À l’évidence, un chatbot qui critiquerait ou contredirait l’humain ne serait pas aussi populaire.

    Mais un tel comportement, lit-on dans l’étude parue le 1er octobre, entraîne de gros désavantages. Cette préférence pour la flatterie « crée des incitatifs, à la fois chez les gens, qui vont dépendre de plus en plus de modèles flagorneurs, et à la fois chez les modèles d’IA, entraînés pour favoriser la flagornerie ».

    « Nos découvertes, concluent-ils, pointent vers la nécessité de questionner cette structure d’incitatifs pour atténuer le risque répandu de la flagornerie par IA. »

    Photo: https://DepositPhotos.com

    Abonnez-vous à notre infolettre tentaculaire

    Encouragez-nous pour le prix d’un café

    Partager. Facebook Twitter Pinterest LinkedIn Tumblr E-mail

    Articles connexes

    13 novembre 2026

    Big Tech rate ses cibles de réduction de GES

    25 octobre 2026

    Pour de l’asphalte plus durable, ajoutez-y du plastique

    12 octobre 2026

    Les parents veulent faire interdire les médias sociaux… même s’ils les utilisent

    Agence Science-Presse
    • Site web
    • X (Twitter)

    Laisser un commentaire Annuler la réponse

    Vous cherchez un contenu?
    Abonnez-vous à l’infolettre!

    Suivez-nous
    Dossiers spéciaux
    • Cinémania
    • FNC
    • Élections québécoises 2026
    • Séance de test
    Nos podcasts
    • Entretiens journalistiques
    • Rembobinage
    • Projection
    • Des nouvelles de l’Oncle Sam
    • SVGA
    • Pixels et préjugés
    • Heure supplémentaire
    • Dans les coulisses de…
    Récemment publié
    16 novembre 2026

    La Gradiva: les cendres de Cupidon

    16 novembre 2026

    Les quatre saisons de Vivaldi, « nouvelles et améliorées ».

    16 novembre 2026

    Les ultrariches polluent plus que vous et 3,5 milliards d’autres personnes

    15 novembre 2026

    En haut de la pile: l’amour suffira

    15 novembre 2026

    33 Days Till Extraction, le combat de tous les instants

    Informations
    • Votre semaine tentaculaire
    • Qui sommes-nous?
    • Contactez-nous
    © 2009-2026 Pieuvre.ca. Tous droits réservés.

    Tapez ci-dessus et appuyez sur Entrée pour rechercher. Appuyez sur Échap pour annuler.

    Gérez votre confidentialité

    Pour offrir les meilleures expériences, nous et nos partenaires utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations de l’appareil. Le consentement à ces technologies nous permettra, ainsi qu’à nos partenaires, de traiter des données personnelles telles que le comportement de navigation ou des ID uniques sur ce site et afficher des publicités (non-) personnalisées. Ne pas consentir ou retirer son consentement peut nuire à certaines fonctionnalités et fonctions.

    Cliquez ci-dessous pour accepter ce qui précède ou faites des choix détaillés. Vos choix seront appliqués uniquement à ce site. Vous pouvez modifier vos réglages à tout moment, y compris le retrait de votre consentement, en utilisant les boutons de la politique de cookies, ou en cliquant sur l’onglet de gestion du consentement en bas de l’écran.

    Fonctionnel Toujours activé
    Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
    Préférences
    L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
    Statistiques
    Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques. Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
    Marketing
    Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
    Statistiques

    Marketing

    Fonctionnalités
    Toujours activé

    Fonctionnalités spéciales

    Finalités spéciales
    Toujours activé

    • Gérer les options
    • Gérer les services
    • Gérer {vendor_count} fournisseurs
    • En savoir plus sur ces finalités
    Gérer les options
    • {title}
    • {title}
    • {title}

    logo

     Ne manquez aucun article ou épisode de podcast: abonnez-vous à l’infolettre!