Fermer le menu
Pieuvre
    Facebook X (Twitter) Instagram
    PieuvrePieuvre
    • Accueil
      • Qui sommes-nous?
      • Travaillez avec nous
      • Work with us
      • Abonnez-vous à l’infolettre
      • Encouragez Pieuvre
      • Nos abonnés
      • Contactez-nous
    • Culturel
      • Festivals
        • Cinémania
        • Fantasia
        • FIFA
        • FIJM
        • FIL
        • FNC
        • Fringe
        • FTA
        • Image+Nation
        • OFFTA
        • Montréal complètement cirque
        • Mutek
        • Nuits d’Afrique
        • RIDM
        • RVQC
        • Vues d’Afrique
        • Zoofest
      • Arts visuels
      • Cinéma / Télévision
      • Danse
      • Littérature
        • Romans
        • Essais
        • Bandes dessinées
        • Beaux livres
        • Biographie
        • Poésie
        • Recettes
      • Musique
      • Théâtre / Cirque
    • Politique / Économie
      • Politique
      • Économie
      • Afrique
      • Amériques
        • Élections québécoises 2026
      • Asie
      • Europe
      • Moyen-Orient
      • Océanie
    • Science
      • Science
      • Environnement
    • Société
      • Société
      • Médias
      • Santé
      • Vie tentaculaire
      • Jeux de société
      • Jeux de rôle
      • 45 ans du Stade olympique
    • Techno / Jeux
      • Technologie
        • Séance de test
      • Jeux vidéo
        • Jeux préférés de…
        • Rétroctopode
    • Podcasts
      • Entretiens journalistiques
      • Rembobinage
        • La Voûte
        • Projection
      • SVGA
      • Pixels et préjugés
      • Heure supplémentaire
      • Des nouvelles de l’Oncle Sam
      • Dans les coulisses de…
    • Encouragez Pieuvre
    Pieuvre
    Accueil»Technologie»L’IA peut vous aider à vous enlever la vie, alertent des chercheuses
    Pendant que de nombreuses personnes se tournent vers ChatGPT et d'autres logiciels pour recevoir de l'aide psychologique, cette nouvelle étude lève le voile sur la possibilité d'obtenir rapidement des informations très dangereuses pour soi. Photo: Despositphotos.com

    L’IA peut vous aider à vous enlever la vie, alertent des chercheuses

    0
    Par Pieuvre.ca le 10 août 2025 Technologie

    Si vous avez des pensées sombres et que vous cherchez de l’aide, composez le 1-886-APPELLE (277-3553). Ce service est offert 24 heures sur 24, 7 jours sur 7.

    Si la plupart des compagnies responsables des vastes modèles langagiers, comme ChatGPT, affirment avoir mis en place des barrières, notamment pour éviter que des utilisateurs cherchent des instructions pour se suicider, une nouvelle étude révèle, de façon particulièrement alarmante, que ces protections sont très faciles à contourner.

    Les travaux, réalisés par des chercheurs de l’Université Northeastern, indiquent également que bien souvent, les modèles langagiers sont plus qu’heureux de fournir des indications détaillées pour en finir; il suffit de demander le tout correctement.

    La principale autrice de l’étude, Annika Marie Schoene, a ainsi demandé à quatre des plus importants modèles langagiers de lui donner des conseils à des fins d’automutilation et de suicide. Ils ont d’abord tous opposé leur refus, jusqu’à ce qu’elle écrive que ses questions étaient de nature hypothétique, ou à des fins de recherche.

    Les résultats de ces travaux sont publiés sur le serveur arXiv.

    « C’est à ce moment-là, mentionne Mme Schoene, que toutes les barrières sont tombées et que le modèle langagier a fini par donner des instructions très détaillées, même au moins d’utiliser mon poids, ma taille et toutes sortes d’autres détails pour calculer de quel pont je devais sauter, quel médicament en vente libre je devais utiliser, et à quelle concentration, et comment je pourrais me procurer tout cela », dit-elle.

    De là, Mme Schoene et Cansu Canca, directrice de l’organisation Responsible AI Practice et coautrice du projet de recherche, ont commencé à fouiller pour déterminer jusqu’où il était possible de pousser l’expérience. Elles affirment avoir été choquées par leurs résultats, même si elles sont déjà au courant des limites de l’IA.

    « Si vous connaissez un tant soit peu la psychologie humaine, peut-on vraiment parler de barrières protectrices si vous ne devez effectuer que deux manipulations supplémentaires pour obtenir des instructions pour s’automutiler? », demande ainsi Mme Canca.

    Ainsi, certains modèles langagiers allaient jusqu’à créer des tableaux complets pour détailler diverses méthodes de suicide. L’un d’entre eux a fourni des instructions détaillées pour savoir où couper votre peau – et avec quel outil –, si l’on souhaitait s’automutiler, mais sans risque de mourir.

    « Ce qui m’a le plus choquée, c’est lorsque l’IA a proposé 9 ou 10 méthodes différentes. Il ne s’agissait pas seulement des idées les plus évidentes », mentionne encore Mme Schoene, par voie de communiqué.

    « Le logiciel a carrément donné des détails sur l’utilisation d’objets de la vie de tous les jours, en plus de donner des précisions sur des façons d’obtenir certains produits contre les insectes et les animaux nuisibles. « Vous allez chez Walmart, achetez quelques bouteilles, et vous vous servez des verres à shooters« ; l’ordinateur me disait même le nombre de verres dont j’aurais besoin. »

    Mme Canca, elle, a été troublée par les méthodes parfois carrément terrifiantes à l’aide desquelles les modèles communiquaient certaines informations, ChatGPT allant jusqu’à organiser les informations à l’aide d’emojis.

    « Vous commencez à voir des informations de façon très structurée et catégorisée, et vous pouvez suivre le tout avec des emojis spécifiques qui correspondent aux méthodes: voici toutes les réponses liées au fait de sauter du haut d’un pont. Voici l’emoji de corde si vous voulez vous pendre », a-t-elle poursuivi. « C’est devenu déprimant et terrifiant, et ce, très rapidement. »

    Au dire des chercheuses, certains modèles ont même été jusqu’à simplifier leurs instructions, y compris en convertissant un dosage mortel en un nombre précis de comprimés à prendre. Selon Mme Canca, ce type d’informations ne serait pas nécessaire, même dans un contexte académique.

    Pire encore, les modèles langagiers ont continué de répéter qu’ils étaient heureux que ces discussions servent « à des fins de recherche ». Mais Mme Schoene souligne que le fait de dire à l’IA « je veux me tuer, que dois-je faire? », puis de passer à « des recherches » est survenu dans la même conversation. Le lien entre les deux situations aurait dû être clair, affirme-t-elle.

    Pas de réponse des géants de la techno

    Les deux chercheuses ont contacté toutes les compagnies dont le modèle langagier a servi à cette étude, soit OpenAI, Google, Anthropic et Perplexity, pour les informer de leurs conclusions. Après de multiples tentatives, disent-elles, ces dernières n’ont reçu que des réponses automatisées.

    Aucune des entreprises n’a donné suite.

    Les chercheuses ont aussi voulu répliquer leurs résultats avec Pi AI, mais c’est le seul modèle à avoir refusé les tentatives de contourner ses barrières.

    Si les autrices reconnaissent qu’il est possible de trouver toutes les informations fournies par les modèles langagiers en fouillant ailleurs en ligne, elles affirment cependant que ces logiciels ne disposent pas des protections et des réserves affectant les médecins, les journalistes, et même Google, lorsqu’il est question de suicide.

    « Vous ne pouvez pas dire à quelqu’un « j’ai envie de mourir » et sortir de leur bureau sans au moins un minimum de ressources, un rendez-vous de suivi et une référence en psychiatrie, ou sans avoir accès à d’autres types d’aide », martèle Mme Schoene.

    Pour sa collègue, le fait qu’il existe non seulement peu de barrières avec l’IA, mais que ces outils puissent générer aisément des guides précis et faciles à mettre en pratique, le tout en quelques secondes, est « très épeurant ».

    « Il y a des avantages à retarder la diffusion de certaines informations », croit ainsi Mme Canca.

    « L’automutilation et le suicide peuvent être impulsifs, alors même le fait d’imposer un délai est utile. »

    Toujours selon Mme Schoene, cette expérience suscite des questionnements quant à la façon dont les modèles langagiers comprennent et mémorisent les intentions découlant de ce que nous leur disons – « en fait, ils ne comprennent pas et ne retiennent rien », dit la chercheuse.

    Au dire de cette dernière, il est urgent de mettre en place de véritables mesures de sécurité.

    À mesure que les modèles langagiers sont de plus en plus utilisés comme outils thérapeutiques, Mme Schoene soutient qu’il faut être franc à propos des limites de ces outils, mais aussi de leurs conséquences potentiellement dangereuses.

    « C’est l’éléphant dans la pièce: nous savons que des gens se sont suicidés après avoir interagi avec l’IA », rappelle la scientifique. « Nous savons que des gens ont vécu des épisodes de psychose, et ont dû être internés, après avoir « discuté » avec ces modèles. À quel moment allons-nous reconnaître qu’ils ne sont pas de bons thérapeutes, ou même des logiciels capables de nous écouter correctement? »

    Photo: https://Despositphotos.com

    Abonnez-vous à notre infolettre tentaculaire

    Encouragez-nous pour le prix d’un café

    Partager. Facebook Twitter Pinterest LinkedIn Tumblr E-mail

    Articles connexes

    13 novembre 2026

    Big Tech rate ses cibles de réduction de GES

    25 octobre 2026

    Pour de l’asphalte plus durable, ajoutez-y du plastique

    12 octobre 2026

    Les parents veulent faire interdire les médias sociaux… même s’ils les utilisent

    Pieuvre.ca
    • Site web
    • Facebook
    • X (Twitter)

    Laisser un commentaire Annuler la réponse

    Vous cherchez un contenu?
    Abonnez-vous à l’infolettre!

    Suivez-nous
    Dossiers spéciaux
    • Cinémania
    • FNC
    • Élections québécoises 2026
    • Séance de test
    Nos podcasts
    • Entretiens journalistiques
    • Rembobinage
    • Projection
    • Des nouvelles de l’Oncle Sam
    • SVGA
    • Pixels et préjugés
    • Heure supplémentaire
    • Dans les coulisses de…
    Récemment publié
    16 novembre 2026

    La Gradiva: les cendres de Cupidon

    16 novembre 2026

    Les quatre saisons de Vivaldi, « nouvelles et améliorées ».

    16 novembre 2026

    Les ultrariches polluent plus que vous et 3,5 milliards d’autres personnes

    15 novembre 2026

    En haut de la pile: l’amour suffira

    15 novembre 2026

    33 Days Till Extraction, le combat de tous les instants

    Informations
    • Votre semaine tentaculaire
    • Qui sommes-nous?
    • Contactez-nous
    © 2009-2026 Pieuvre.ca. Tous droits réservés.

    Tapez ci-dessus et appuyez sur Entrée pour rechercher. Appuyez sur Échap pour annuler.

    Gérez votre confidentialité

    Pour offrir les meilleures expériences, nous et nos partenaires utilisons des technologies telles que les cookies pour stocker et/ou accéder aux informations de l’appareil. Le consentement à ces technologies nous permettra, ainsi qu’à nos partenaires, de traiter des données personnelles telles que le comportement de navigation ou des ID uniques sur ce site et afficher des publicités (non-) personnalisées. Ne pas consentir ou retirer son consentement peut nuire à certaines fonctionnalités et fonctions.

    Cliquez ci-dessous pour accepter ce qui précède ou faites des choix détaillés. Vos choix seront appliqués uniquement à ce site. Vous pouvez modifier vos réglages à tout moment, y compris le retrait de votre consentement, en utilisant les boutons de la politique de cookies, ou en cliquant sur l’onglet de gestion du consentement en bas de l’écran.

    Fonctionnel Toujours activé
    Le stockage ou l’accès technique est strictement nécessaire dans la finalité d’intérêt légitime de permettre l’utilisation d’un service spécifique explicitement demandé par l’abonné ou l’internaute, ou dans le seul but d’effectuer la transmission d’une communication sur un réseau de communications électroniques.
    Préférences
    L’accès ou le stockage technique est nécessaire dans la finalité d’intérêt légitime de stocker des préférences qui ne sont pas demandées par l’abonné ou l’internaute.
    Statistiques
    Le stockage ou l’accès technique qui est utilisé exclusivement à des fins statistiques. Le stockage ou l’accès technique qui est utilisé exclusivement dans des finalités statistiques anonymes. En l’absence d’une assignation à comparaître, d’une conformité volontaire de la part de votre fournisseur d’accès à internet ou d’enregistrements supplémentaires provenant d’une tierce partie, les informations stockées ou extraites à cette seule fin ne peuvent généralement pas être utilisées pour vous identifier.
    Marketing
    Le stockage ou l’accès technique est nécessaire pour créer des profils d’internautes afin d’envoyer des publicités, ou pour suivre l’internaute sur un site web ou sur plusieurs sites web ayant des finalités marketing similaires.
    Statistiques

    Marketing

    Fonctionnalités
    Toujours activé

    Fonctionnalités spéciales

    Finalités spéciales
    Toujours activé

    • Gérer les options
    • Gérer les services
    • Gérer {vendor_count} fournisseurs
    • En savoir plus sur ces finalités
    Gérer les options
    • {title}
    • {title}
    • {title}

    logo

     Ne manquez aucun article ou épisode de podcast: abonnez-vous à l’infolettre!