Considérer la machine comme humaine conduit à tromper le public sur ce qu’est vraiment l’IA et à surestimer ce que sont ses véritables capacités — ce qui, du coup, peut amener le public à lui faire un peu trop confiance, ou à la voir comme une forme d’intelligence supérieure.
En théorie, un pays pourrait règlementer l’usage des données personnelles d’une personne après son décès. Mais en l’absence d’interdit, l’état actuel de la technologie n’est pas si loin de pouvoir permettre cette « expérience ».
« Les discours alarmistes sur les risques existentiels ne sont pas constructifs », conclut l’éditorial. « Les discussions sérieuses sur les risques réels, et de réelles actions pour les contenir, le sont. »
Au cours d’une intervention chirurgicale, on a demandé à sept patients souffrant d’épilepsie de se concentrer tantôt sur une voix, tantôt sur l’autre, tandis qu’on mesurait leur activité cérébrale.
Le vocabulaire que nous utilisons pour décrire l’IA, de même que le langage employé par les informaticiens eux-mêmes dans leur conception de ces agents conversationnels, peut renforcer l’impression que ceux-ci ont des caractéristiques humaines. Il est en fait relativement facile de créer cette illusion.
Les concepteurs d’une IA sur qui on compte pour fournir de l’information fiable pourraient hésiter à la laisser être submergée par des contenus de moindre qualité.
