Fermer le menu
Pieuvre
    Facebook X (Twitter) Instagram
    PieuvrePieuvre
    • Accueil
      • Qui sommes-nous?
      • Travaillez avec nous
      • Work with us
      • Abonnez-vous à l’infolettre
      • Encouragez Pieuvre
      • Nos abonnés
      • Contactez-nous
    • Culturel
      • Festivals
        • Cinémania
        • Fantasia
        • FIFA
        • FIJM
        • FIL
        • FNC
        • Fringe
        • FTA
        • Image+Nation
        • OFFTA
        • Montréal complètement cirque
        • Mutek
        • Nuits d’Afrique
        • RIDM
        • RVQC
        • Vues d’Afrique
        • Zoofest
      • Arts visuels
      • Cinéma / Télévision
      • Danse
      • Littérature
        • Romans
        • Essais
        • Bandes dessinées
        • Beaux livres
        • Biographie
        • Poésie
        • Recettes
      • Musique
      • Théâtre / Cirque
    • Politique / Économie
      • Politique
      • Économie
      • Afrique
      • Amériques
        • Élections québécoises 2026
      • Asie
      • Europe
      • Moyen-Orient
      • Océanie
    • Science
      • Science
      • Environnement
    • Société
      • Société
      • Médias
      • Santé
      • Vie tentaculaire
      • Jeux de société
      • Jeux de rôle
      • 45 ans du Stade olympique
    • Techno / Jeux
      • Technologie
        • Séance de test
      • Jeux vidéo
        • Jeux préférés de…
        • Rétroctopode
    • Podcasts
      • Entretiens journalistiques
      • Rembobinage
        • La Voûte
        • Projection
      • SVGA
      • Pixels et préjugés
      • Heure supplémentaire
      • Des nouvelles de l’Oncle Sam
      • Dans les coulisses de…
    • Encouragez Pieuvre
    Pieuvre
    Accueil»Technologie»Les fausses nouvelles et l’IA: en phase avec le modèle d’affaires
    En admettant qu'il n'a pas toutes les réponses, ChatGPT pourrait perdre des clients. Photo: DepositPhotos.com

    Les fausses nouvelles et l’IA: en phase avec le modèle d’affaires

    0
    Par Agence Science-Presse le 15 septembre 2025 Technologie

    Selon les chercheurs de la compagnie OpenAI, créatrice de ChatGPT, la cause du grand nombre d’erreurs commises par leur robot — et ses semblables des autres compagnies — est facile à identifier. Mais pas facile à régler, si OpenAI veut conserver son modèle d’affaires.

    Se référant au mot « hallucinations » qu’emploient les informaticiens pour désigner les moments où ces agents conversationnels donnent une réponse fausse, la recherche, prépubliée le 5 septembre, conclut que ces « larges modèles de langage hallucinent parce que l’entraînement standard et les procédures d’évaluation récompensent le fait de deviner, davantage que la reconnaissance d’incertitude ».

    En clair, il faut se rappeler que ChatGPT et ses semblables sont entraînés — à partir d’immenses banques de données de textes ou d’images — à prédire ce que sera le prochain mot dans une phrase ou le prochain pixel dans une image. Dans ce processus « d’entraînement », ChatGPT obtient des informaticiens une bonne note —une « récompense », dans leur jargon— s’il a obtenu une bonne réponse et une mauvaise note dans le cas contraire. Qui plus est, s’il répond « je ne sais pas », il obtient aussi une mauvaise note.

    Prendre une chance, une stratégie plus rentable

    Enfin, soulignent les quatre auteurs de la recherche — trois d’OpenAI et un de l’Université de technologie de Georgie — ChatGPT obtient cette bonne note, même s’il est tombé sur la bonne réponse par pur coup de chance. Par conséquent, il peut être comparé à une personne qui, plutôt que d’avoir l’honnêteté de répondre de temps en temps « je ne sais pas », se risque systématiquement à donner une réponse, sans se soucier qu’elle puisse être fausse.

    Cela crée ce que les auteurs appellent carrément une « épidémie » de pénalisation des réponses honnêtes: il est plus « rentable » pour lui de prendre une chance à tous les coups, avec les résultats que l’on connaît.

    De fait, ça ne semble pas s’améliorer: selon l’édition d’août 2025 de l’évaluation mensuelle de 10 chatbots que mène l’organisme américain Newsguard, ceux-ci ont donné des mauvaises réponses dans 35% des cas, lorsqu’on les interrogeait sur des sujets d’actualité controversés. Les résultats n’étaient que de 18% en août 2024.

    Newsguard rappelle que dans la dernière année, la plupart de ces chatbots ont acquis la capacité de fouiller le web en temps réel, alors qu’à leurs débuts en 2023, leur base de données pouvait avoir un an de retard sur l’actualité. Résultat, « des acteurs malintentionnés exploitent » cette nouveauté en inondant le web ou les réseaux sociaux d’informations fausses, dans l’espoir d’influencer de cette façon les réponses des chatbots.

    Pour les gens d’OpenAI, la solution semble évidente : il faudrait « récompenser » ChatGPT pour son « honnêteté », ou plus exactement pour le fait d’admettre qu’il est devant une incertitude quant à la bonne réponse. Par exemple, l’agent conversationnel pourrait être programmé pour ne répondre que s’il a un taux de confiance de plus de 75%, en plus d’avoir une mauvaise note plus élevée quand il donne une mauvaise réponse.

    Quand l’honnêteté est inefficace

    Mais la compagnie ira-t-elle dans cette direction… sachant qu’un robot plus « honnête » aurait le désavantage d’être moins « efficace » aux yeux de ceux qui l’utilisent déjà en remplacement des moteurs de recherche?

    Autrement dit, aller dans cette direction pourrait carrément nuire au modèle d’affaires. Si, par exemple, ChatGPT se mettait à dire « je ne sais pas » à 30% des questions, — une estimation possible à la lecture de la recherche — les usagers qui ont l’habitude de recevoir des réponses empreintes de certitudes pourraient choisir d’aller chez le concurrent.

    Comme le résume le professeur à l’École des sciences mathématiques et physiques de l’Université de Sheffield, Wei Xing, cette recherche d’OpenAI « éclaire involontairement une vérité inconfortable: l’incitatif monétaire qui pousse le développement » de ce marché de l’IA « reste fondamentalement mal aligné avec la réduction des hallucinations. Jusqu’à ce que ces incitatifs changent, les hallucinations vont demeurer. »

    Photo: https://DepositPhotos.com

    Abonnez-vous à notre infolettre tentaculaire

    Encouragez-nous pour le prix d’un café

    Partager. Facebook Twitter Pinterest LinkedIn Tumblr E-mail

    Articles connexes

    13 novembre 2026

    Big Tech rate ses cibles de réduction de GES

    25 octobre 2026

    Pour de l’asphalte plus durable, ajoutez-y du plastique

    12 octobre 2026

    Les parents veulent faire interdire les médias sociaux… même s’ils les utilisent

    Agence Science-Presse
    • Site web
    • X (Twitter)

    Laisser un commentaire Annuler la réponse

    Vous cherchez un contenu?
    Abonnez-vous à l’infolettre!

    Suivez-nous
    Dossiers spéciaux
    • Cinémania
    • FNC
    • Élections québécoises 2026
    • Séance de test
    Nos podcasts
    • Entretiens journalistiques
    • Rembobinage
    • Projection
    • Des nouvelles de l’Oncle Sam
    • SVGA
    • Pixels et préjugés
    • Heure supplémentaire
    • Dans les coulisses de…
    Récemment publié
    16 novembre 2026

    Forte baisse du financement de la lutte contre la crise climatique

    16 novembre 2026

    La Gradiva: les cendres de Cupidon

    16 novembre 2026

    Les quatre saisons de Vivaldi, « nouvelles et améliorées ».

    16 novembre 2026

    Les ultrariches polluent plus que vous et 3,5 milliards d’autres personnes

    15 novembre 2026

    En haut de la pile: l’amour suffira

    Informations
    • Votre semaine tentaculaire
    • Qui sommes-nous?
    • Contactez-nous
    © 2009-2026 Pieuvre.ca. Tous droits réservés.

    Tapez ci-dessus et appuyez sur Entrée pour rechercher. Appuyez sur Échap pour annuler.

    Gérez votre confidentialité

    Pour offrir les meilleures expériences, nous et nos partenaires utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations de l’appareil. Le consentement à ces technologies nous permettra, ainsi qu’à nos partenaires, de traiter des données personnelles telles que le comportement de navigation ou des ID uniques sur ce site et afficher des publicités (non-) personnalisées. Ne pas consentir ou retirer son consentement peut nuire à certaines fonctionnalités et fonctions.

    Cliquez ci-dessous pour accepter ce qui précède ou faites des choix détaillés. Vos choix seront appliqués uniquement à ce site. Vous pouvez modifier vos réglages à tout moment, y compris le retrait de votre consentement, en utilisant les boutons de la politique de cookies, ou en cliquant sur l’onglet de gestion du consentement en bas de l’écran.

    Fonctionnel Toujours activé
    Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
    Préférences
    L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
    Statistiques
    Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques. Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
    Marketing
    Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
    Statistiques

    Marketing

    Fonctionnalités
    Toujours activé

    Fonctionnalités spéciales

    Finalités spéciales
    Toujours activé

    • Gérer les options
    • Gérer les services
    • Gérer {vendor_count} fournisseurs
    • En savoir plus sur ces finalités
    Gérer les options
    • {title}
    • {title}
    • {title}

    logo

     Ne manquez aucun article ou épisode de podcast: abonnez-vous à l’infolettre!