L’IA et la guerre, le cauchemar du droit international

Fin août 2026, à Genève, les inquiétudes concernant les IA ont amené le Secrétaire général de l’ONU António Guterres et la présidente du Comité international de la Croix-Rouge (CICR) Mirjana Spoljaric Egger à lancer un nouvel appel conjoint, le second en trois ans, pour que les États adoptent enfin des règles internationales contraignantes sur les systèmes d’armes autonomes. Selon eux, le monde serait « dangereusement proche » de franchir ce qu’ils nomment une ligne rouge morale, celle du ciblage autonome d’êtres humains par des machines.

Cette alerte, qui fait donc suite à un premier appel resté sans suite en 2023, intervient alors que le Groupe d’experts gouvernementaux réuni dans le cadre de la Convention sur certaines armes classiques achevait à Genève un mandat de trois ans, sans qu’un consensus clair ne se dégage sur les contours d’un futur instrument juridique. La question sera de nouveau sur la table lors de la conférence d’examen de la Convention, en novembre. D’ici là, un choix engage l’avenir du droit des conflits armés, celui de savoir si la décision de mettre fin à une vie humaine peut être déléguée à une machine, ou si elle doit demeurer une responsabilité humaine.

Une course à l’armement intrinsèquement liée aux IA

Les armes dotées de capacités autonomes ne sont pas une nouveauté en soi. Des systèmes de défense comme l’Iron Dome israélien, le canon Phalanx américain ou le NBS Mantis allemand interceptent depuis des années des menaces de façon automatisée, mais ils demeurent défensifs et ciblent des objets, non des personnes. Ce qui change depuis plusieurs années, c’est l’intégration croissante de l’intelligence artificielle dans la conception des armements, qui étend leur capacité à opérer dans des environnements complexes et à sélectionner elles-mêmes leurs cibles. La Haute-Représentante des Nations Unies pour les affaires de désarmement, Izumi Nakamitsu, a exhorté les diplomates réunis à Genève à consolider sans tarder les points de convergence, avant que les avancées technologiques ne devancent les protections prévues par le droit international humanitaire.

Le Département de la Défense américain avait défini dès 2012 les systèmes d’armes létaux autonomes comme des dispositifs capables, une fois activés, de sélectionner et d’attaquer des cibles sans intervention humaine supplémentaire. Depuis, la littérature spécialisée distingue généralement trois catégories, les armes automatisées classiques comme les mines, les systèmes téléopérés comme les drones Reaper, et les systèmes véritablement autonomes, où la sélection et l’engagement de la cible échappent à toute supervision humaine directe. C’est ce dernier degré d’autonomie, celui où l’humain sort de la boucle décisionnelle, qui concentre les inquiétudes. Aucun usage confirmé d’une arme pleinement autonome ayant délibérément visé des personnes n’a été recensé à ce jour, mais des informations non confirmées font état de l’emploi, sur certains champs de bataille, de drones guidés par intelligence artificielle opérant avec un degré d’autonomie croissant.

Le contrôle humain en perte de vitesse

Le débat porte moins sur la technologie elle-même que sur ce qu’elle pourrait déléguer. Antonio Guterres et Spoljaric Egger l’avaient déjà formulé en 2023, affirmant que le contrôle humain devait être conservé dans les décisions de vie ou de mort, affirmant que des machines dotées du pouvoir discrétionnaire d’ôter la vie sans intervention humaine devraient être interdites par le droit international. Cette exigence, défendue notamment par le professeur de robotique Noel Sharkey puis par des chercheurs comme Stuart Russell, s’appuie sur un raisonnement qui va au-delà d’une simple précaution technique. Cette réflexion se porte sur l’idée même que la décision d’ôter une vie humaine engage un jugement qu’un traitement automatisé de données ne peut, par nature, reproduire de la même manière.

Ainsi, réduire une cible humaine à des données, des capteurs et des « opérations mécaniques », pour reprendre les termes employés par l’ONU, revient à retirer du champ de bataille la possibilité du doute ou de la retenue qui, même de façon imparfaite, ont pu jusqu’ici limiter certains usages de la force. Contrairement à une machine, le soldat peut refuser un ordre qu’il juge manifestement illégal ou disproportionné tandis qu’un système autonome exécute, lui, un calcul. Partant de ce raisonnement, la France a reconnu en 2017 avec l’Allemagne l’impossibilité de déléguer la décision létale à un système, tout en rappelant que les États sont tenus d’examiner la licéité de toute nouvelle arme dès le stade de sa conception.

Le CICR, par la voix de son conseiller juridique Laurent Gisel, a récemment précisé que l’organisation ne demande pas l’interdiction de l’ensemble des systèmes autonomes, mais celle des catégories jugées les plus à risque, celles susceptibles d’entraîner les violations les plus graves du droit international humanitaire et d’aggraver le coût humain des conflits. Cette distinction vise à circonscrire le débat, sans bloquer l’ensemble de la recherche militaire, autour d’un point précis, celui de savoir qui, de l’humain ou de la machine, décide d’engager une cible.

Une chaîne de responsabilité fragilisée

Le droit international humanitaire repose en partie sur le principe de responsabilité. La capacité de juger des crimes de guerre en temps de guerre se heurte à des difficultés nouvelles lorsque la cible a été sélectionnée par un système dont le fonctionnement échappe, en partie, à une reconstitution humaine complète après coup. La question dépasse le strict cadre juridique, car elle touche à la possibilité de rendre des comptes une fois l’action engagée, tout cela dans un climat d’impunité croissante des crimes perpétrés en zones de conflits. Dans le cadre d’une absence d’un opérateur clairement identifiable au moment de l’engagement, la responsabilité se répartit entre le concepteur du système, celui qui l’a déployé et celui qui l’a activé, ce qui complique l’établissement des responsabilités en cas de violation du droit. Cette problématique d’identification des responsables d’une attaque est déjà grandement éprouvée dans le milieu cyber, où les cyberattaques sont systématiquement niées par les nations suspectes, faute de preuves directes pouvant les affilier à ces dernières.

Cette question de la responsabilité rejoint, par un autre biais, des débats plus larges sur les cadres censés encadrer l’usage de la force. Elle est en outre relayée par une partie des chercheurs et ingénieurs à l’origine de ces technologies, qui appellent eux-mêmes à des limites, un positionnement suffisamment rare dans le secteur pour être noté.

Un test pour le droit international

Les discussions menées à Genève depuis 2014 dans le cadre de la Convention sur certaines armes classiques n’ont, à ce jour, débouché sur aucun texte contraignant. Le Groupe d’experts gouvernementaux devait clore son mandat de trois ans à la fin du mois d’août 2026, avec l’espoir, non garanti, d’un document consensuel servant de base à de futures négociations. La conférence d’examen de novembre sera l’occasion pour les États de décider, ou non, d’ouvrir des négociations en vue d’un traité. L’ONU et le CICR ont appelé les dirigeants à faire preuve de ce qu’ils nomment un courage politique, avertissant qu’une absence d’action rapide aurait un coût humain.

L’enjeu dépasse le seul encadrement technique d’une nouvelle génération d’armements. Il s’agit de déterminer si un cadre international se met en place avant que l’usage de systèmes capables de sélectionner et d’engager des cibles humaines sans intervention directe ne devienne une pratique établie, ou si les négociations continueront de prendre du retard sur les développements technologiques. Comme le rappellent les chefs de l’ONU et du CICR, les prochaines années diront si les États ont agi tant qu’il était encore possible de fixer des limites. À l’heure où la technologie progresse plus vite que le droit qui doit l’encadrer, la question de savoir à qui revient la décision de tuer reste, pour l’instant, sans réponse commune.