Dans un contexte de détérioration de l’environnement sécuritaire, au cours de la dernière décennie, détérioration qui a relancé les craintes à propos d’une guerre nucléaire, alors que les pays détenteurs d’armes atomiques ont raffermi leur recours à la stratégie de la dissuasion, plusieurs de ces pays pourraient chercher à intégrer des systèmes d’intelligence artificielle au sein de leurs arsenaux. C’est là courir un grand risque, soutient un récent rapport.
Le document en question, publié par le SIPRI, l’Institut international de recherche sur la paix de Stockholm, souligne que les neuf États possédant des armes nucléaires, soit les États-Unis, la Russie, la Chine, la France, le Royaume-Uni, Israël, le Pakistan, l’Inde et la Corée du Nord, procèdent à une modernisation de leurs systèmes, en plus d’accroître la quantité d’ogives à leur disposition.
Et au même moment, mentionnent les chercheurs, d’importantes sommes sont consacrées à une éventuelle utilisation de systèmes d’IA militaires, qui permettraient de prendre de meilleures décisions, plus rapidement, tout en favorisant l’autonomie de ces systèmes.
De fait, le SIPRI précise « qu’à peine un peu plus de la moitié des États armés de bombes atomiques veulent explicitement maintenir un contrôle humain direct sur les décisions liées à l’utilisation » de telles armes, « afin de prévenir les risques d’escalade ».
En fait, préviennent les auteurs du rapport, même lorsqu’elles sont employées dans des contextes militaires ne touchant pas aux armes atomiques, ces systèmes d’IA pourraient avoir un effet sur l’environnement dans lequel sont prises des décisions liées aux bombes nucléaires. En résumé: implanter des IA militaires dans la chaîne de commandement des forces armées pourrait précipiter le monde vers une Troisième Guerre mondiale et l’Armageddon nucléaire.
Car si ces systèmes automatisés poussent les décideurs à réagir plus rapidement, le risque d’escalade nucléaire n’en est que plus grand, prévient le SIPRI.
« Est-ce que l’IA introduit de nouveaux risques? Vient-elle exacerber ceux qui existent déjà? Modifie-t-elle fondamentalement la nature de l’escalade nucléaire? », s’interroge l’organisation.
Un risque d’embrasement
Le concept d’escalade nucléaire, dont il était bien davantage question durant la guerre froide, représente l’emballement d’un conflit, entre nations belligérantes, et l’éventuel franchissement d’un point de non-retour à partir duquel l’une des deux parties en cause estime qu’il est justifié d’employer des armes nucléaires, qu’il s’agisse d’ogives tactiques, de plus faible puissance, ou encore des bombes plus dévastatrices.
Pour contrer ce risque, on s’appuie sur un autre principe, rappelle le SIPRI: celui de la « stabilité stratégique », où les pays munis d’armes atomiques n’ont aucun intérêt à déclencher une première frappe avec de telles munitions. Mais si cette stabilité est mise à mal, alors des nations pourraient être portées à mener des attaques préventives sur les installations nucléaires de l’ennemi, afin d’empêcher celui-ci de faire usage de son propre arsenal.
En ce qui concerne l’effet de l’intégration de l’IA dans la chaîne décisionnelle des systèmes nucléaires des États, les auteurs du rapport indiquent que celui-ci varie en fonction du type d’IA, de l’importance de son implantation, et à quelle fin ces logiciels sont utilisés.
Mais une chose est claire, indique-t-on: une IA, militaire ou non, souffre des mêmes problèmes que des programmes tels que ChatGPT: la présence de biais, une absence de transparence, le fait de « faire sauter » un niveau décisionnel, sans oublier une possible vulnérabilité aux cyberattaques.
Est-ce que le fait de réduire le temps nécessaire pour prendre des décisions en vaut la chandelle? Souhaite-t-on complètement évacuer le facteur humain, lorsque vient le temps d’appuyer sur le bouton rouge et de condamner des millions, voire des dizaines de millions de personnes à la mort?
Ultimement, le SIPRI reconnaît « la grande complexité » inhérente au fait de vouloir déterminer l’effet des IA militaires sur les risques d’escalade nucléaire. Et « cette complexité est alimentée par les différents facteurs qui facilitent cette escalade, les sources de risques nucléaires, et l’équilibre fragile de la stabilité stratétique ».
Malgré tout, le constat est clair: « L’intégration de l’IA dans le domaine militaire, via des systèmes de prise de décision alimentés par l’IA, ainsi qu’en automatisant des tâches de systèmes conventionnels, pourrait saper la stabilité stratégique et alimenter l’escalade nucléaire ».
« L’IA pourrait inciter les États à escalader des conflits, y compris jusqu’à l’emploi de l’arme atomique », ajoute encore le rapport, avant de soutenir que cette escalade pourrait même découler des failles de l’IA, plutôt que d’une volonté propre du logiciel.
Le SIPRI presse d’ailleurs les gouvernements des États munis d’armes atomiques à étudier plus en profondeur les risques possibles liés à l’utilisation d’IA militaires, afin d’en mitiger les dangers avant que ceux-ci ne deviennent terriblement réels.
Photo: https://depositphotos.com





