L’IA pourrait-elle développer des armes biologiques – ou aider quelqu’un à en créer? Si la question, qui a été soulevée ces dernières semaines, a de quoi inquiéter, on peut trouver une raison de se rassurer en regardant non pas dans le présent, mais dans le passé.
C’est qu’au cours du dernier siècle, l’humanité a eu de nombreuses occasions pour créer, et même utiliser, des armes biologiques. Mais le scénario du pire ne s’est jamais produit. Dans une analyse publiée le 14 septembre dans le New York Times, le journaliste scientifique Carl Zimmer rappelle que, pendant la Première guerre mondiale (1914-1918), des espions allemands étaient entrés aux États-Unis et dans d’autres pays avec des récipients contenant des bactéries, mais qu’ils n’avaient utilisé que pour tuer des chevaux et des mules.
Dans les décennies qui ont suivi, les États-Unis et l’Union soviétique se sont dotés de gigantesques réserves, depuis des bombes à l’anthrax jusqu’à des ballons chargés de champignons tueurs de blé. Mais après la signature de la Convention sur l’interdiction des armes biologiques en 1975, les deux pays ont détruit leurs réserves. Ils ont toutefois poursuivi leurs recherches dans ce domaine.
Vous aimez nous lire et nous écouter? Pour continuer de vous offrir nos contenus, nous avons besoin de vous.
Pour seulement 5$ par mois, contribuez au succès de Pieuvre et obtenez l’accès à La Voûte, une série d’épisodes exclusifs du podcast Rembobinage. Abonnez-vous dès aujourd’hui!
« La menace d’armes biologiques était très réelle, longtemps avant qu’OpenAi et Anthropic apparaissent », résume le journaliste. Et pourtant, « les armes biologiques ont causé très peu de morts depuis la Deuxième guerre mondiale » (à ne pas confondre avec des armes chimiques, soit des gaz, qui ont été utilisées dans les tranchées pendant le premier conflit mondial).
« Nous ne savons pas ce qui a été essayé et qui a échoué, ni ce qui a été empêché », commente le directeur du Centre Johns Hopkins pour la sécurité en santé, Thomas Inglesby. Mais il est certain que d’employer de telles armes représente un « défi technologique »: une bombe ou un missile permettent de cibler avec bien plus de précisions. Et c’est en plus du fait qu’un virus ou une bactérie ne s’arrêteront pas aux frontières du pays ennemi.
Dans un rapport sur la biosécurité publié en octobre 2025, l’expert en biologie synthétique Drew Endy, de l’Université Stanford, déclarait que les larges modèles de langage (LLM) actuellement sur le marché, comme Claude (de la compagnie Anthropic) ou ChatGPT (de la compagnie OpenAI), ne représentaient pas un changement radical, par rapport aux menaces actuellement existantes d’armes biologiques.
Qui plus est, la biologie s’est dotée dans la dernière décennie d’outils qui permettent de synthétiser ou altérer l’ADN avec une vitesse dont n’auraient jamais pu rêver les scientifiques du 20e siècle. Or, ça ne veut pas dire que ce qui est fait en laboratoire ou dans un modèle informatique pourrait se traduire par une arme mortelle : et la même chose peut être dite du modèle théorique que rédigerait un LLM, sur la base de la littérature scientifique déjà existante.
Drew Endy admet toutefois être rassuré par l’annonce d’Anthropic, le 10 septembre, comme quoi elle avait commencé à bloquer certaines des demandes faites à Claude en relation avec l’utilisation suspecte de pathogènes. Mais Inglesby rappelle qu’un autre enjeu pointe à l’horizon, avec des LLM capables, dans une certaine mesure, de s’enseigner eux-mêmes la biologie: c’est-à-dire non pas « s’entraîner » à partir de la littérature scientifique existante, mais à partir de données brutes sur l’ADN et sur les cellules de millions d’espèces.
La tâche, pour créer quoi que ce soit d’inédit dans la nature, n’en est pas moins gigantesque. Mais on peut facilement imaginer le pire. « Avec suffisamment de données d’entraînement, ces systèmes d’IA pourraient être capables de faire des prédictions sur des variants plus mortels, contagieux, capables d’échapper au système immunitaire. »
