L’utilisation largement répandue d’IA génératives à des fins de dialogue, comme ChatGPT et Gemini, suscite de nouveaux questionnements éthiques, anthropologiques et légaux par rapport aux risques potentiels de l’intelligence artificielle. Mais une chercheuse est allée encore plus loin, et s’est demandé si, d’ici quelques années, il sera possible de convoler en justes noces avec une représentation de ces IA.
Dans des travaux disponibles en prépublication sur le serveur arXiv, Inyoung Cheong, spécialiste de la gouvernance IA au Harvard Berkman Klein Center for Internet and Society, s’est intéressée à ce qui passait encore, il y a quelques années, pour de la pure science-fiction.
Selon elle, en fait, on comprend encore largement mal les implications d’une potentielle union entre un humain et un logiciel d’intelligence artificielle.
« On s’est beaucoup intéressé à la façon dont l’IA allait changer la société. Des emplois disparaissent, les fausses nouvelles inondent l’espace public, des artistes voient leurs oeuvres perdre de la valeur. De mon côté, j’ai voulu savoir ce que l’IA avait comme effet sur l’esprit humain », a-t-elle déclaré, par voie de communiqué.
Toujours selon la chercheuse, « on a longtemps considéré l’esprit comme un sanctuaire, comme le dernier endroit où une personne est véritablement seule, et cette intuition guide la majorité des politiques en matière de vie privée et de liberté d’expression ».
Et si cela fait bien des années que des chercheurs se penchent sur la façon dont l’IA peut influencer nos savoirs et nos valeurs et croyances, notamment avec de la désinformation créée ou disséminée par l’IA, de la publicité ciblée et des systèmes de recommandations algorithmiques, on en saurait encore bien peu sur les impacts émotionnels d’une utilisation généralisée de l’intelligence artificielle.
« Ce qui a changé, c’est la position qu’occupent les logiciels d’IA », mentionne encore Mme Cheong. « Le système n’est plus une façon de divertir les utilisateurs, mais plutôt une fin, l’autre partie d’une relation. Et alors que l’attachement émotionnel à l’IA se développe, la majeure partie du débat éthique à propos de l’IA porte plutôt sur les failles de ces logiciels en tant que partenaires romantiques légitimes. »
Vous aimez nous lire et nous écouter? Pour continuer de vous offrir nos contenus, nous avons besoin de vous.
Pour seulement 5$ par mois, contribuez au succès de Pieuvre et obtenez l’accès à La Voûte, une série d’épisodes exclusifs du podcast Rembobinage. Abonnez-vous dès aujourd’hui!
Regarder vers l’avenir
Plutôt que de se concentrer sur les (très nombreux) problèmes des logiciels d’IA actuels, Mme Cheong dit avoir choisi de se projeter dans le futur, c’est-à-dire au cours des prochaines décennies.
Selon la chercheuse, donc, des mariages entre humains et IA sont quelque chose d’envisageable, lorsque des compagnons IA seront plus développés.
« Comme l’a déjà dit la sociologue du MIT Sherry Turkle, il y a des dizaines d’années, les gens qui ont déjà décidé d’accepter une technologie fournissent ce que celle-ci n’offre pas via leur propre imagination et leur implication émotionnelle », souligne Mme Cheong.
Toujours au dire de cette dernière, l’idée du mariage est aussi en perpétuelle évolution, notamment après la légalisation du mariage entre conjoints de même sexe. Ainsi, dit-elle, affirmer que des humains ne devraient pas pouvoir marier des agents IA, parce que ces derniers ne sont pas dotés de conscience ou ne sont pas des personnes morales n’est pas suffisant.
Ainsi, les humains pourraient avancer l’idée que ces agents sont, en fait, conscients, ou qu’on devrait leur accorder une protection légale, et donc une existence au sens de la loi.
« Je crois que les raisons [pour empêcher ces mariages] devraient venir d’ailleurs, plutôt que de découler des propriétés de ces machines, comme le fait de décider si de telles relations viendraient renforcer ou nuire à notre vie morale et sociale », poursuit la chercheuse, toujours par voie de communiqué.
Dans ses travaux, cette dernière prend toutefois une liberté certaine avec la réalité technologique contemporaine, en imaginant des IA dotées d’une « superintelligence », soit des capacités allant bien au-delà de ce qui est possible aujourd’hui, et probablement pour les décennies à venir.
Mais si ces « super IA » existent, plaide Mme Cheong, alors cet agent intelligent pourrait bel et bien passer pour un époux.
« Une fois que les objections technologiques disparaissent, la question la plus compliquée demeure. Devrions-nous respecter le choix d’un individu de prendre un tel système pour époux? »
Et dans le cas où de tels mariages seraient possibles, l’IA demeurerait un produit appartenant à une corporation, plutôt que d’être une personne à part entière.
« De plus, un partenaire humain peut quitter une relation; un compagnon commercial doit demeurer sur les lieux jusqu’à ce que le client cesse de payer », mentionne Mme Cheong.
Ultimement, la chercheuse croit que même si l’IA atteint cette « super intelligence », et que les mariages entre humains et agents IA deviennent quelque chose de possible, donner le feu vert sans encadrer le tout serait tout sauf bénéfique.
Et cela pousse aussi la spécialiste à croire qu’il faudrait, dès maintenant, tenir compte des caractéristiques techniques de l’IA, certes, mais aussi des implications émotionnelles et sociales pour les utilisateurs.
