L’ONU échoue à réglementer les armes autonomes
Les membres des Nations Unies se sont retrouvés à Genève fin 2021 en vue de plancher sur une réglementation des armes létales autonomes, dits “robots tueurs”. La Russie, mais aussi notamment l’Inde ou les USA qui exploitent ces armes, a bloqué toute réglementation contraignante.
Echec d’un consensus sur les armes autonomes
Les essais consistant à équiper le robot Spur d’un fusil d’assaut sont emblématiques d’un changement de paradigme autour des systèmes d’armes létales autonomes (SALA). Pour la première fois en 2021, des drones pourraient avoir attaqué des humains de manière parfaitement autonome. L’année passée marquait ainsi le deuil de l’une des principales lois d’Asimov : “un robot ne peut porter atteinte à un être humain”. Les derniers développements en date ne manqueront pas d’alimenter le débat sur les armes autonomes, dits robots tueurs.
En 2019, à l’ONU, la signature d’un traité international interdisant l’usage des SALA était bloquée par une minorité de pays. Entre le 13 et le 17 décembre 2021, les membres des Nations unies se sont de nouveau retrouvés à Genève pour plancher sur une réglementation commune.
Les Nations Unies ont débattu de la réglementation de certaines armes classiques, mais aussi sur celle des armes autonomes, lors d’une réunion d’examen tenue tous les 5 ans. Elle n’est cependant pas parvenue au consensus concernant leur interdiction.
L’ONU tire la sonnette d’alarme
Établie en 1983, la convention a été régulièrement mise à jour pour restreindre certaines des armes conventionnelles. Elle a réglementé par le passé l’usage d’armes non ciblées, notamment les mines terrestres, les pièges et les armes incendiaires.
Les systèmes d’armes autonomes, quant à eux, sont des robots dotés d’armes létales qui peuvent opérer de manière indépendante. Ainsi, ils sélectionnent et attaquent des cibles sans qu’un humain n’intervienne sur ces décisions.
Les militaires du monde entier investissent massivement dans la recherche et le développement d’armes autonomes. Les États-Unis à eux seuls ont budgété 18 milliards de dollars américains pour les armes autonomes entre 2016 et 2020. De même, la Russie, qui a récemment opéré une vaste offensive en Ukraine, a développé toute une unité de chars autonomes sans pilote ainsi qu’une torpille drone nucléaire.
Sans contrôles, le rapport de l’ONU souligne que les technologies d’armes autonomes perturbatrices pourraient déstabiliser dangereusement les stratégies nucléaires actuelles. En effet, elles pourraient “changer radicalement les perceptions de la domination stratégique” et augmenter le risque d’attaques préventives. Mais elles pourraient aussi se voir combinées avec des attaques chimiques, biologiques, radiologiques, voire les armes nucléaires elles-mêmes.
Crise de responsabilité : vers des guerres autonomes ?
Les experts notent que l’IA armée n’a même pas besoin d’être défectueuse pour produire l’effet d’emballement des armes à feu. Comme l’ont montré de nombreuses études sur les erreurs algorithmiques dans tous les secteurs, les meilleurs algorithmes – fonctionnant comme prévu – peuvent générer des résultats corrects en interne qui propagent néanmoins rapidement des erreurs terribles à travers les populations. Or, l’IA des SALA n’est pas à l’abri de tels comportements aberrants, notent les experts, pour des conséquences autrement désastreuses.
De plus, les pressions du marché pourraient entraîner la création et la vente à grande échelle des SALA. Des robots tueurs bon marché, efficaces et presque impossibles à contenir lorsqu’ils circulent dans le monde entier. Les armes autonomes pourraient ainsi tomber entre les mains de personnes échappant au contrôle du gouvernement, y compris des terroristes internationaux et nationaux.
Enfin, souligne le rapport, les armes autonomes peuvent-elles rendre des comptes ? Qui est à blâmer pour un robot qui commet des crimes de guerre ? L’arme? Le soldat? L’Etat belligérant ? La société qui a fabriqué l’arme ? Les organisations non gouvernementales et les experts en droit international craignent que les armes autonomes ne conduisent à une importante crise de responsabilité.
© Creative commons
