L’intelligence artificielle (IA) offre un potentiel pour améliorer la santé de millions de personnes à travers le monde, mais seulement si l’éthique et les droits humains sont ramenés au cœur de sa conception et de son utilisation. Autant dire que ce n’est pas gagné d’avance.
C’est la réflexion qui se dégage d’un document « d’orientation » de l’Organisation mondiale de la santé (OMS) sur « l’éthique et la gouvernance de l’IA pour la santé », publié le 28 juin. Il y aura, lit-on dans l’introduction, des conséquences potentiellement négatives « si les principes éthiques et les obligations des droits humains ne sont pas des priorités pour ceux qui financent, conçoivent, réglementent ou utilisent des technologies d’IA pour la santé ».
En théorie, l’IA peut servir dans tous les domaines de la santé: un traitement rapide de montagnes de données peut contribuer à améliorer les diagnostics, à la recherche clinique, à l’allocation de ressources aux bons endroits, au dépistage de maladies, sans parler de la préparation à de futures pandémies.
Mais les risques sont présents eux aussi, et ils sont les mêmes qu’on retrouve ailleurs qu’en santé: risques d’atteintes à la vie privée, avec la possibilité de suivre en continu l’état de santé d’une personne; utilisation à des fins imprévues de toutes ces données de santé obtenues sur des millions de personnes ; biais qui seraient encodés dans les algorithmes, comme on l’a vu ces dernières années avec la reconnaissance faciale.
Un enthousiasme exagéré à l’égard des bénéfices potentiels de l’IA pourrait conduire vers l’habituel recours aux solutions technologiques à des problèmes complexes. Un tel « techno-optimisme » pourrait empirer les problèmes, par exemple, en exacerbant la distribution inégale d’accès aux technologies de soins (…) Un usage de données limitées et non-représentatives pourrait perpétuer et renforcer les préjugés et les disparités dans les soins de santé. Des biais déduits, des analyses de données trompeuses et des applications mal conçues, pourraient être nuisibles.
-Extrait du rapport
Le rapport, qui est le premier sur l’IA émanant de l’OMS, a été rédigé par un comité de 20 experts en santé publique, droits humains, technologie et éthique.
Parmi les recommandations: transparence et « intelligibilité » : concrètement, que suffisamment d’informations sur les capacités et les limites de la technologie, ses forces et ses faiblesses, soient publiées avant son implantation. Et responsabilité: en d’autres termes, si quelque chose tourne mal, qui est responsable?
