Une équipe de chercheurs de l’Université de Californie à Riverside a mis au point une méthode permettant d’effacer les contenus privés et protégés par copyright se trouvant à « l’intérieur » des modèles d’intelligence artificielle, mais sans avoir besoin d’accéder aux données originales ayant servi à entraîner l’ordinateur.
Cette avancée, détaillée lors d’une conférence internationale tenue en juillet à Vancouver, vise à régler l’un des principaux enjeux entourant le développement de vastes modèles langagiers, comme ChatGPT. En effet, ceux-ci sont généralement entraînés à l’aide de nombreux téraoctets de données provenant d’un peu partout sur le web, y compris, bien souvent, des contenus sous copyright ou privés qui sont généralement « aspirés » sans demander la permission, ou le paiement de redevances.
Selon les chercheurs, l’innovation consiste à dire à l’IA d’« oublier » certaines informations sélectionnées, tout en conservant la fonctionnalité du modèle d’IA à l’aide des données restantes.
Il s’agit d’une percée importante, affirme-t-on, qui permet de modifier les modèles sans avoir besoin de les reprogrammer avec une quantité astronomique de données, ce qui est décrit comme étant coûteux et énergivore.
De l’avis des auteurs de l’étude, cette nouvelle approche permet aussi de faire disparaître les données privées incluses dans les modèles d’IA, même sans avoir accès aux données originales ayant servi à l’entraînement de ces mêmes modèles.
« Dans la vraie vie, vous ne pouvez pas toujours retourner voir les données de bases », soutient Umit Yigit Basaran, le principal auteur de l’étude. « Nous avons créé un cadre certifié qui fonctionne même quand ces informations ne sont plus disponibles. »
La chose commence à devenir urgente: les compagnies à saveur technologique font face à de nouvelles lois sur la protection de la vie privée, que ce soit en Europe ou en Californie.
Par ailleurs, de grandes entreprises, comme le New York Times, ont intenté des poursuites contre des compagnies développant des modèles d’IA – dans le cas du NYT, OpenAI et Microsoft – pour avoir utilisé des contenus sous copyright pour former leurs logiciels.
Les IA ne « comprennent » pas les questions qui leur sont posées; elles « apprennent » les tendances langagières et tentent de prédire les combinaisons de mots à venir, histoire de générer des réponses.
Parfois, ces logiciels reproduisent des copies presque parfaites de textes ayant servi à les former, ce qui permet à des utilisateurs de passer outre des murs payants et autres abonnements obligatoires.
Le système développé par les chercheurs californiens produit une copie similaire des données utilisées par l’IA, mais en ajoutant du « bruit aléatoire » qui cible les informations visées, et empêche ainsi qu’elles ne soient reconstruites.
Vers une meilleure protection de la vie privée
Pour l’instant, ce système ne s’applique qu’à des modèles d’IA plus simples, dont un grand nombre sont toujours utilisés, mais pourrait éventuellement être adapté à des systèmes plus complexes, comme ChatGPT, soutient le professeur Amit Roy-Chowdhury, qui a lui aussi participé à l’étude.
Au-delà de l’obligation de respecter les lois sur la vie privée, les chercheurs soutiennent que leurs travaux sont prometteurs pour les médias, les institutions médicales et d’autres organisations qui doivent gérer des documents personnels intégrés dans des modèles d’IA, affirme le professeur.
Cela pourrait également pousser les individus à réclamer la destruction des contenus personnels ou protégés par copyright.
« Les gens ont le droit de savoir que leurs données peuvent être effacées des modèles d’apprentissage machine – pas seulement en théorie, mais de façon pratique », indique le professeur adjoint Basak Güler.
L’équipe va maintenant plancher sur l’affinage de la méthode de fonctionnement de son système de « nettoyage », histoire qu’il fonctionne avec des modèles d’IA plus complexes, en plus de développer des outils pour rendre leur technologie accessible aux développeurs, à l’échelle mondiale.





