Le groupe scientifique international indépendant sur l’intelligence artificielle mis sur pied par l’ONU en 2025 vient de publier son premier rapport. La conclusion: l’IA possède un potentiel considérable, mais se développe plus rapidement que notre capacité à bien l’encadrer.
Le groupe scientifique international indépendant sur l’intelligence artificielle est composé de 40 membres et constitue le premier organisme scientifique mondial consacré à l’IA. Co-présidé entre autres par Yoshua Bengio, professeur au Département d’informatique et de recherche opérationnelle de l’Université de Montréal, il a pour mandat de produire un rapport annuel à partir de données scientifiques pour dresser un état des lieux des capacités, risques et impacts de l’IA.
Dans ce premier rapport publié le 1er juillet dernier, le groupe reconnaît que les avantages potentiels de l’IA sont considérables, notamment pour le développement durable, la santé et l’éducation. Les progrès technologiques récents ouvrent en effet la voie à plusieurs applications utiles dans différents domaines.
Vous aimez nous lire et nous écouter? Pour continuer de vous offrir nos contenus, nous avons besoin de vous.
Pour seulement 5$ par mois, contribuez au succès de Pieuvre et obtenez l’accès à La Voûte, une série d’épisodes exclusifs du podcast Rembobinage. Abonnez-vous dès aujourd’hui!
Cependant, les auteurs du rapport rappellent que le développement de l’IA comporte également des risques pour les droits humains, les systèmes sociaux et l’environnement. Par exemple, cette technologie peut aggraver les problèmes de santé mentale des utilisateurs, contribuer à la désinformation et faciliter les fraudes.
Par ailleurs, les agents IA sont de plus en plus présents, souligne-t-on dans le rapport. Ces agents sont des systèmes informatiques capables de planifier et d’agir de manière autonome pour atteindre des objectifs. Bien que cette technologie puisse augmenter la productivité dans plusieurs domaines, elle suscite aussi son lot de préoccupations. Notamment, les auteurs s’inquiètent de l’absence de méthodes fiables pour s’assurer que ces agents autonomes demeurent sous le contrôle des programmeurs et qu’ils respectent les instructions qui leur ont été données.
Enfin, le rapport met en lumière que les progrès technologiques en intelligence artificielle dépassent aujourd’hui largement le rythme auquel se développe la compréhension de ces systèmes. Les auteurs insistent donc sur l’importance de mettre en place dès maintenant de bonnes pratiques de gouvernance et de prévoir des investissements ciblés pour que le développement de l’IA s’inscrive dans un cadre favorisant l’innovation tout en limitant les risques.
