Imaginez un monde dystopique où le profilage algorithmique transforme la sélection des cibles militaires en une « usine à cibles » automatisée, traquant les individus jusqu'à leur domicile familial avant d'autoriser des frappes aériennes.
Ce n’est plus une dystopie. Les décisions qui déterminent qui vit et qui meurt à la guerre sont de plus en plus influencées par des machines. L’intelligence artificielle (IA) s’intègre rapidement aux opérations militaires, de la collecte de renseignements et de l’identification des cibles aux systèmes d’armes et aux décisions relatives à l’usage de la force. Des systèmes d’armes autonomes, y compris ceux dotés d’IA capables de sélectionner et d’engager des cibles sans intervention humaine une fois activés, sont déjà en cours de développement et de déploiement.
La semaine prochaine offre aux États l’occasion d’agir. Du 16 au 20 novembre, les gouvernements se réuniront à Genève pour envisager l’ouverture de négociations sur un traité visant à réglementer les armes autonomes. Cette réunion des Nations unies offre l’occasion d’inscrire un principe fondamental dans la loi : les humains doivent conserver un contrôle effectif sur l’usage de la force et en rester responsables. Les États doivent saisir cette occasion pour « désarmer » l’IA.
Un test pour le contrôle humain
La question n’est pas de savoir si un système militaire utilise l’IA. Utilisés de manière responsable, les systèmes sans pilote et dotés d’IA peuvent contribuer à protéger les civils ou à réduire les pertes parmi les soldats. La question est de savoir si les humains conservent un contrôle effectif et si ces technologies peuvent être utilisées dans le respect du droit international. Les systèmes d’IA peuvent être opaques et imprévisibles, s’appuyant sur des données obsolètes ou biaisées pour produire des résultats qui ne peuvent être anticipés de manière adéquate. Des erreurs se sont déjà produites, avec des conséquences dévastatrices. De plus, la rapidité des opérations basées sur l’IA peut laisser trop peu de temps pour vérifier les cibles ou évaluer la légalité de leur engagement. Le contrôle humain risque de se réduire à un simple formalisme lorsque les opérateurs s’en remettent à des machines qu’ils perçoivent comme plus compétentes ou plus précises qu’eux-mêmes, ou lorsqu’ils perdent complètement le contrôle de la prise de décision autonome. Ces dynamiques accentuent le risque d’attaques illégales, menacent le droit à la vie et sapent la responsabilité en cas de violations.
Ces risques ne se limitent pas au champ de bataille. Les technologies développées pour la guerre sont transposées dans des contextes civils, tels que le contrôle des frontières ou le maintien de l’ordre lors de rassemblements, ou tombent entre les mains d’acteurs non étatiques commettant des actes illicites. L’IA est instrumentalisée comme une arme pour manipuler l’environnement informationnel et perturber les infrastructures civiles.
Combler un vide réglementaire
La réglementation n’a pas su s’adapter à ces réalités.
Si le droit international des droits humains et le droit international humanitaire s’appliquent et doivent être respectés, leur interprétation ne résout pas toutes les questions soulevées par ces technologies. Les cadres existants, notamment le règlement de l’UE sur l’IA et la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, excluent les utilisations militaires de leur champ d’application.
Depuis plus d’une décennie, les Nations unies, le Comité international de la Croix-Rouge et les organisations de la société civile s’efforcent de faire face à ces dangers, reflétant un consensus croissant sur l’insuffisance des garde-fous juridiques existants. Des processus importants sont actuellement en cours aux Nations unies, tant au sein de la CCAC* qu’à l’Assemblée générale, où les États discutent de la réglementation des armes autonomes et des conséquences plus larges de l’IA militaire pour la paix et la sécurité.
Préserver la dignité humaine
Alors que la course à la militarisation de l’IA s’accélère, il est impératif de prendre des mesures décisives. Les États devraient agir rapidement en soutenant des négociations urgentes et assorties de délais pour l’élaboration d’un instrument mondial juridiquement contraignant sur les armes autonomes, et en faisant progresser la réglementation des autres utilisations militaires de l’IA.
Le secteur privé a également une responsabilité. Les entreprises qui conçoivent, développent ou fournissent ces systèmes doivent respecter les droits humains conformément aux Principes directeurs des Nations unies relatifs aux entreprises et aux droits humains. Elles doivent exercer une diligence raisonnable en matière de droits humains, atténuer les risques et intégrer les normes relatives aux droits humains et au droit humanitaire dans la conception et le déploiement de leurs produits.
Les décisions de vie ou de mort doivent rester ancrées dans le jugement humain, la responsabilité et l’obligation de rendre des comptes. L’usage de la force doit être régi par des personnes agissant selon des règles claires et respectant les droits humains – il ne doit jamais être délégué à des machines. L’humanité n’en exige pas moins.
*Convention sur certaines armes classiques
