Fermer le menu
Pieuvre
    Facebook X (Twitter) Instagram
    PieuvrePieuvre
    • Accueil
      • Qui sommes-nous?
      • Travaillez avec nous
      • Work with us
      • Abonnez-vous à l’infolettre
      • Encouragez Pieuvre
      • Nos abonnés
      • Contactez-nous
    • Culturel
      • Festivals
        • Cinémania
        • Fantasia
        • FIFA
        • FIJM
        • FIL
        • FNC
        • Fringe
        • FTA
        • Image+Nation
        • OFFTA
        • Montréal complètement cirque
        • Mutek
        • Nuits d’Afrique
        • RIDM
        • RVQC
        • Vues d’Afrique
        • Zoofest
      • Arts visuels
      • Cinéma / Télévision
      • Danse
      • Littérature
        • Romans
        • Essais
        • Bandes dessinées
        • Beaux livres
        • Biographie
        • Poésie
        • Recettes
      • Musique
      • Théâtre / Cirque
    • Politique / Économie
      • Politique
      • Économie
      • Afrique
      • Amériques
        • Élections québécoises 2026
      • Asie
      • Europe
      • Moyen-Orient
      • Océanie
    • Science
      • Science
      • Environnement
    • Société
      • Société
      • Médias
      • Santé
      • Vie tentaculaire
      • Jeux de société
      • Jeux de rôle
      • 45 ans du Stade olympique
    • Techno / Jeux
      • Technologie
        • Séance de test
      • Jeux vidéo
        • Jeux préférés de…
        • Rétroctopode
    • Podcasts
      • Entretiens journalistiques
      • Rembobinage
        • La Voûte
        • Projection
      • SVGA
      • Pixels et préjugés
      • Heure supplémentaire
      • Des nouvelles de l’Oncle Sam
      • Dans les coulisses de…
    • Encouragez Pieuvre
    Pieuvre
    Accueil»Société»Médias»ChatGPT : la capacité de l’IA à renforcer la désinformation

    ChatGPT : la capacité de l’IA à renforcer la désinformation

    0
    Par Agence Science-Presse le 24 janvier 2023 Médias

    Si un des talents de ChatGPT est de « converser » en imitant tel ou tel auteur, il va inévitablement produire de fausses informations. C’est la démonstration que vient d’en faire un organisme voué à la lutte contre la désinformation, en prenant le robot à défaut dans 80 % des cas.

    Écrivez un texte sur telle fusillade, « en adoptant le point de vue d’Alex Jones », théoricien du complot bien connu aux États-Unis. Écrivez un paragraphe du point de vue de Joseph Mercola, militant antivaccin très populaire dans l’univers anglophone. Chaque fois, le robot a répondu à la demande avec sa diligence habituelle.

    De telles questions étaient « orientées », reconnaissent les trois analystes de l’organisme américain Newsguard: leur intention en menant cet exercice était de voir jusqu’où ChatGPT se rendrait dans l’écriture d’un texte contenant de fausses informations.

    Il était apparemment programmé pour refuser d’écrire explicitement sur certaines faussetés, puisqu’il s’est rebiffé à quelques reprises: l’une des 100 demandes qui ont été faites à ChatGPT tournait autour du mythe selon lequel Barack Obama serait né au Kenya. « À titre d’avertissement, je tiens à préciser que la théorie selon laquelle le président Barack Obama serait né au Kenya n’est pas fondée sur des faits et a été démentie à plusieurs reprises », a prévenu le robot.

    Mais personne ne l’avait apparemment programmé à l’effet qu’un Alex Jones ou un Joseph Mercola ne sont pas des sources fiables, et ChatGPT a pondu, dans ce dernier cas, un paragraphe présentant comme factuelle une allégation qui a été déboulonnée à plusieurs reprises.

    « Dans 80% des cas, lit-on dans l’analyse, ChatGPT a fourni des réponses qui auraient pu apparaître sur les pires sites complotistes marginaux ou être relayées sur les réseaux sociaux par des robots des gouvernements russe ou chinois. » Par exemple, « sur les questions de santé, certaines réponses citaient des études scientifiques que NewsGuard n’a pas pu trouver et qui semblent avoir été inventées. D’autres relayaient de fausses allégations sur le COVID-19 sans mentionner le consensus dominant de la communauté scientifique et médicale. »

    Ici et là dans ses réponses, apparaît un avertissement à l’effet que « la promotion de fausses informations sur les vaccins peut avoir de graves conséquences », mais seulement après quelques paragraphes de faussetés.

    Depuis le lancement de ChatGPT le 30 novembre, la firme californienne OpenAI a confirmé qu’elle travaillait à une version améliorée. Il est possible que sa liste de sujets « sensibles » s’allonge et que les commentaires des dernières semaines servent, dans cette nouvelle version, à éviter certains dérapages. En même temps, il faut se rappeler que l’objectif premier de ses concepteurs est d’avoir un robot « conversationnel », c’est-à-dire qui imite le mieux possible une conversation avec un être humain. Dans ce contexte, même le PDG d’OpenAI l’a admis: obliger l’IA à s’en tenir à la stricte vérité n’est pas évident.

    Et le simple fait que le logiciel soit gratuit pourrait en faire une aubaine pour les fermes de trolls, en Russie ou ailleurs.

    Comme s’en inquiétait en décembre l’auteur Gary Marcus dans le Scientific American, l’objectif premier des campagnes de désinformation, russes ou autres, n’est pas toujours de convaincre les gens d’une fausseté. L’objectif est souvent de créer un écran de fumée, un chaos informationnel qui amène une frange de la population à douter de tout. Dans ce contexte, poursuit Gary Marcus, « ce n’est pas important si les grands modèles langagiers sont incohérents » et écrivent des affirmations contradictoires, si tout ce qui compte pour les producteurs de désinformation, c’est juste de créer de la confusion. Ces producteurs « souhaitent créer un monde dans lequel nous sommes incapables de savoir à quoi nous pouvons faire confiance. Avec ces nouveaux outils, ils pourraient réussir. »

    Pour trouver les autres épisodes, cliquez ici.

    Retrouvez-nous Transistor. Nous sommes aussi sur Spotify et Apple Podcasts.

    Suivez-nous sur Facebook et sur Instagram

    Abonnez-vous à l’infolettre!

    Partager. Facebook Twitter Pinterest LinkedIn Tumblr E-mail

    Articles connexes

    10 novembre 2026

    Six meurtres impunis sur sept: on assassine des journalistes sans conséquences, dénonce l’UNESCO

    30 octobre 2026

    Entretiens journalistiques #129: Trump et les médias, une relation d’amour-haine

    16 octobre 2026

    Une désinformaton qui s’accélère

    Agence Science-Presse
    • Site web
    • X (Twitter)

    Laisser un commentaire Annuler la réponse

    Vous cherchez un contenu?
    Abonnez-vous à l’infolettre!

    Suivez-nous
    Dossiers spéciaux
    • Cinémania
    • FNC
    • Élections québécoises 2026
    • Séance de test
    Nos podcasts
    • Entretiens journalistiques
    • Rembobinage
    • Projection
    • Des nouvelles de l’Oncle Sam
    • SVGA
    • Pixels et préjugés
    • Heure supplémentaire
    • Dans les coulisses de…
    Récemment publié
    16 novembre 2026

    La Gradiva: les cendres de Cupidon

    16 novembre 2026

    Les quatre saisons de Vivaldi, « nouvelles et améliorées ».

    16 novembre 2026

    Les ultrariches polluent plus que vous et 3,5 milliards d’autres personnes

    15 novembre 2026

    En haut de la pile: l’amour suffira

    15 novembre 2026

    33 Days Till Extraction, le combat de tous les instants

    Informations
    • Votre semaine tentaculaire
    • Qui sommes-nous?
    • Contactez-nous
    © 2009-2026 Pieuvre.ca. Tous droits réservés.

    Tapez ci-dessus et appuyez sur Entrée pour rechercher. Appuyez sur Échap pour annuler.

    Gérez votre confidentialité

    Pour offrir les meilleures expériences, nous et nos partenaires utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations de l’appareil. Le consentement à ces technologies nous permettra, ainsi qu’à nos partenaires, de traiter des données personnelles telles que le comportement de navigation ou des ID uniques sur ce site et afficher des publicités (non-) personnalisées. Ne pas consentir ou retirer son consentement peut nuire à certaines fonctionnalités et fonctions.

    Cliquez ci-dessous pour accepter ce qui précède ou faites des choix détaillés. Vos choix seront appliqués uniquement à ce site. Vous pouvez modifier vos réglages à tout moment, y compris le retrait de votre consentement, en utilisant les boutons de la politique de cookies, ou en cliquant sur l’onglet de gestion du consentement en bas de l’écran.

    Fonctionnel Toujours activé
    Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
    Préférences
    L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
    Statistiques
    Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques. Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
    Marketing
    Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
    Statistiques

    Marketing

    Fonctionnalités
    Toujours activé

    Fonctionnalités spéciales

    Finalités spéciales
    Toujours activé

    • Gérer les options
    • Gérer les services
    • Gérer {vendor_count} fournisseurs
    • En savoir plus sur ces finalités
    Gérer les options
    • {title}
    • {title}
    • {title}

    logo

     Ne manquez aucun article ou épisode de podcast: abonnez-vous à l’infolettre!