Imaginez un champ de blé qui s’étire jusqu’à l’horizon, et qui est cultivé pour produire de la farine qui servira à faire du pain destiné à nourrir la population de plusieurs villes. Imaginez que toutes les tâches de bêchage, de plantage, de fertilisation, de surveillance et de récolte soient effectuées par une intelligence artificielle: des algorithmes qui contrôlent des systèmes d’irrigation, des tracteurs et des moissonneuses-batteuses automatisées, le tout assez développé pour réagir à la température et aux besoins des plants. Puis, imaginez qu’un pirate sème le chaos là-dedans.
Une nouvelle analyse de risques, publiée dans Nature Machine Intelligence, met en garde contre le fait que la future utilisation de l’IA en agriculture vient avec des risques potentiels importants pour les fermes, les agriculteurs et la sécurité alimentaire, risques qui sont mal compris et sous-estimés.
« L’idée que des machines intelligentes gèrent une installation agricole n’est pas de la science-fiction. Les grandes entreprises font déjà office de pionnières en matière de robots agricoles autonomes et de systèmes de soutien à la prise de décisions qui remplaceront les humains dans les champs », affirme le Dr Asaf Tzachor, de l’Université de Cambridge, le principal auteur de l’étude.
« Mais jusqu’à maintenant, personne ne semble s’être posé la question à savoir s’il y a des risques associés à un déploiement rapidement de l’IA en agriculture », a-t-il ajouté.
Malgré les grandes promesses liées à l’IA pour l’amélioration de la gestion des plants et la productivité agricole, les risques potentiels doivent être résolus de façon responsable et les nouvelles technologies doivent être correctement testées, dans des environnements spécialisés, pour s’assurer qu’elles sont sécuritaires et protéger contre des erreurs accidentelles, des conséquences inattendues et des cyberattaques, estiment les auteurs.
Dans leurs travaux, ces derniers ont mis sur pied un catalogue de risques qui doivent être évalués dans le cadre du développement « responsable » de l’IA en agriculture, et détaillé des façons d’en venir à bout. Selon les chercheurs, l’un des dangers est celui des cyberattaques qui pourraient potentiellement déstabiliser les activités des fermes commerciales utilisant l’IA, en « empoisonnant » des bases de données ou en éteignant des arrosoirs, des drones autonomes, ou encore des moissonneuses robotisées.
Pour protéger contre ces menaces, les scientifiques proposent que des « pirates éthiques » aident les compagnies à détecter les failles de sécurité durant la phase de développement, pour que les systèmes puissent être protégés contre les vrais pirates.
Dans un scénario associé à un problème accidentel, les auteurs de l’étude laissent entendre qu’un système d’IA seulement programmé pour offrir les meilleures récoltes à court terme pourrait ignorer les conséquences environnementales qui en découlent, ce qui mènerait à une trop grande utilisation d’engrais et à une érosion des sols à long terme. Une surutilisation des pesticides pourrait de son côté empoisonner les écosystèmes; trop utiliser d’engrais azoté polluerait le sol et les cours d’eau avoisinants.
Les chercheurs proposent d’impliquer des spécialistes de l’écologie dans le processus de design pour s’assurer d’éviter tous ces scénarios aux conséquences importantes.
Des machines autonomes pourraient améliorer les conditions de travail des agriculteurs, en leur faisant éviter des tâches manuelles. Mais sans des technologies inclusives, les inégalités socioéconomiques qui sont en ce moment présentes dans les systèmes agricoles mondiaux – y compris de la discrimination en matière de genre, de classe et d’ethnicité – demeureront bien en place.
« Les systèmes d’IA agricole qui ne tiennent pas compte de la complexité des systèmes de travail viendront ignorer, et potentiellement soutenir, l’exploitation des communautés désavantageés », a mis en garde le Dr Tzachor.
Promesses… et dangers
Divers robots agricoles, ainsi que de la machinerie complexe, comme des drones et des senseurs, sont déjà utilisés pour recueillir de l’information sur les récoltes et aider les agriculteurs à prendre des décisions, notamment en ce qui concerne la détection des maladies ou la gestion de l’irrigation, par exemple. Et des moissonneuse autonomes peuvent récolter des plants sans avoir besoin d’un opérateur humain. De tels systèmes automatisés visent à améliorer l’efficacité de l’agriculture, en économisant sur les coûts de main-d’oeuvre, en optimisant la production, et en minimisant les pertes et le gaspillage. Cela peut accroître les revenus des agriculteurs, tout en augmentant le besoin de s’appuyer sur l’IA, jugent les chercheurs.
Cependant, les petits agriculteurs qui exploitent la majorité des fermes, à l’échelle mondiale, et qui nourrissent une grande part des populations du Sud devraient être largement exclus des avantages liés à l’IA. La marginalisation, la faible couverture du réseau internet, ainsi que le fossé numérique entre les riches et les pauvres pourraient empêcher ces petits propriétaires d’utiliser des technologies plus avancées, ce qui viendraient accroître les différences entre les agriculteurs commerciaux et ceux qui cultivent à des fins de subsistance, écrivent encore les scientifiques.
Avec environ deux milliards de personnes touchées par l’insécurité alimentaire, dont environ 690 millions de gens touchés par la malnutrition et 340 millions d’enfants qui manquent de nutriments, les technologies de l’IA et de l’agriculture de précision sont accompagnées de promesses importantes en matière de sécurité alimentaire et nutritionnelle, le tout dans une perspective de changements climatiques et de croissance de la population mondiale, rappellent les chercheurs, qui mettent de nouveau en garde contre les dérives et les risques de laisser une bonne partie de la population mondiale de côté.
