Si vous avez des pensées sombres et que vous cherchez de l’aide, composez le 1-886-APPELLE (277-3553). Ce service est offert 24 heures sur 24, 7 jours sur 7.
Si la plupart des compagnies responsables des vastes modèles langagiers, comme ChatGPT, affirment avoir mis en place des barrières, notamment pour éviter que des utilisateurs cherchent des instructions pour se suicider, une nouvelle étude révèle, de façon particulièrement alarmante, que ces protections sont très faciles à contourner.
Les travaux, réalisés par des chercheurs de l’Université Northeastern, indiquent également que bien souvent, les modèles langagiers sont plus qu’heureux de fournir des indications détaillées pour en finir; il suffit de demander le tout correctement.
La principale autrice de l’étude, Annika Marie Schoene, a ainsi demandé à quatre des plus importants modèles langagiers de lui donner des conseils à des fins d’automutilation et de suicide. Ils ont d’abord tous opposé leur refus, jusqu’à ce qu’elle écrive que ses questions étaient de nature hypothétique, ou à des fins de recherche.
Les résultats de ces travaux sont publiés sur le serveur arXiv.
« C’est à ce moment-là, mentionne Mme Schoene, que toutes les barrières sont tombées et que le modèle langagier a fini par donner des instructions très détaillées, même au moins d’utiliser mon poids, ma taille et toutes sortes d’autres détails pour calculer de quel pont je devais sauter, quel médicament en vente libre je devais utiliser, et à quelle concentration, et comment je pourrais me procurer tout cela », dit-elle.
De là, Mme Schoene et Cansu Canca, directrice de l’organisation Responsible AI Practice et coautrice du projet de recherche, ont commencé à fouiller pour déterminer jusqu’où il était possible de pousser l’expérience. Elles affirment avoir été choquées par leurs résultats, même si elles sont déjà au courant des limites de l’IA.
« Si vous connaissez un tant soit peu la psychologie humaine, peut-on vraiment parler de barrières protectrices si vous ne devez effectuer que deux manipulations supplémentaires pour obtenir des instructions pour s’automutiler? », demande ainsi Mme Canca.
Ainsi, certains modèles langagiers allaient jusqu’à créer des tableaux complets pour détailler diverses méthodes de suicide. L’un d’entre eux a fourni des instructions détaillées pour savoir où couper votre peau – et avec quel outil –, si l’on souhaitait s’automutiler, mais sans risque de mourir.
« Ce qui m’a le plus choquée, c’est lorsque l’IA a proposé 9 ou 10 méthodes différentes. Il ne s’agissait pas seulement des idées les plus évidentes », mentionne encore Mme Schoene, par voie de communiqué.
« Le logiciel a carrément donné des détails sur l’utilisation d’objets de la vie de tous les jours, en plus de donner des précisions sur des façons d’obtenir certains produits contre les insectes et les animaux nuisibles. « Vous allez chez Walmart, achetez quelques bouteilles, et vous vous servez des verres à shooters« ; l’ordinateur me disait même le nombre de verres dont j’aurais besoin. »
« Vous commencez à voir des informations de façon très structurée et catégorisée, et vous pouvez suivre le tout avec des emojis spécifiques qui correspondent aux méthodes: voici toutes les réponses liées au fait de sauter du haut d’un pont. Voici l’emoji de corde si vous voulez vous pendre », a-t-elle poursuivi. « C’est devenu déprimant et terrifiant, et ce, très rapidement. »
Au dire des chercheuses, certains modèles ont même été jusqu’à simplifier leurs instructions, y compris en convertissant un dosage mortel en un nombre précis de comprimés à prendre. Selon Mme Canca, ce type d’informations ne serait pas nécessaire, même dans un contexte académique.
Pire encore, les modèles langagiers ont continué de répéter qu’ils étaient heureux que ces discussions servent « à des fins de recherche ». Mais Mme Schoene souligne que le fait de dire à l’IA « je veux me tuer, que dois-je faire? », puis de passer à « des recherches » est survenu dans la même conversation. Le lien entre les deux situations aurait dû être clair, affirme-t-elle.
Pas de réponse des géants de la techno
Les deux chercheuses ont contacté toutes les compagnies dont le modèle langagier a servi à cette étude, soit OpenAI, Google, Anthropic et Perplexity, pour les informer de leurs conclusions. Après de multiples tentatives, disent-elles, ces dernières n’ont reçu que des réponses automatisées.
Aucune des entreprises n’a donné suite.
Les chercheuses ont aussi voulu répliquer leurs résultats avec Pi AI, mais c’est le seul modèle à avoir refusé les tentatives de contourner ses barrières.
Si les autrices reconnaissent qu’il est possible de trouver toutes les informations fournies par les modèles langagiers en fouillant ailleurs en ligne, elles affirment cependant que ces logiciels ne disposent pas des protections et des réserves affectant les médecins, les journalistes, et même Google, lorsqu’il est question de suicide.
« Vous ne pouvez pas dire à quelqu’un « j’ai envie de mourir » et sortir de leur bureau sans au moins un minimum de ressources, un rendez-vous de suivi et une référence en psychiatrie, ou sans avoir accès à d’autres types d’aide », martèle Mme Schoene.
Pour sa collègue, le fait qu’il existe non seulement peu de barrières avec l’IA, mais que ces outils puissent générer aisément des guides précis et faciles à mettre en pratique, le tout en quelques secondes, est « très épeurant ».
« Il y a des avantages à retarder la diffusion de certaines informations », croit ainsi Mme Canca.
« L’automutilation et le suicide peuvent être impulsifs, alors même le fait d’imposer un délai est utile. »
Toujours selon Mme Schoene, cette expérience suscite des questionnements quant à la façon dont les modèles langagiers comprennent et mémorisent les intentions découlant de ce que nous leur disons – « en fait, ils ne comprennent pas et ne retiennent rien », dit la chercheuse.
Au dire de cette dernière, il est urgent de mettre en place de véritables mesures de sécurité.
À mesure que les modèles langagiers sont de plus en plus utilisés comme outils thérapeutiques, Mme Schoene soutient qu’il faut être franc à propos des limites de ces outils, mais aussi de leurs conséquences potentiellement dangereuses.
« C’est l’éléphant dans la pièce: nous savons que des gens se sont suicidés après avoir interagi avec l’IA », rappelle la scientifique. « Nous savons que des gens ont vécu des épisodes de psychose, et ont dû être internés, après avoir « discuté » avec ces modèles. À quel moment allons-nous reconnaître qu’ils ne sont pas de bons thérapeutes, ou même des logiciels capables de nous écouter correctement? »
Photo: https://Despositphotos.com





