L’Évaluation des risques et des impacts des systèmes d’intelligence artificielle (IA) du point de vue des droits humains, de la démocratie et de l’État de droit (« l’HUDERIA ») est un guide qui fournit une approche structurée de l'évaluation des risques et des impacts des systèmes d'IA spécifiquement adaptée à la protection et à la promotion des droits humains, de la démocratie et de l'État de droit.

Elle est destinée à jouer un rôle unique et essentiel à l'intersection des normes internationales en matière de droits humains et des cadres techniques existants sur la gestion des risques dans le contexte de l'IA.

L’HUDERIA est un guide autonome, non juridiquement contraignant. Les Parties à la Convention-cadre ont la possibilité d'utiliser ou d'adapter le guide, en tout ou en partie, de développer de nouvelles approches de l'évaluation des risques ou d’utiliser ou adapter les approches existantes conformément à leurs lois applicables. Les Parties doivent cependant respecter pleinement leurs obligations au titre de la Convention-cadre, en particulier la référence de base pour la gestion des risques et des impacts énoncée dans son Chapitre V.

 Objectifs de l’HUDERIA

L’HUDERIA s'appuie sur des concepts et un langage bien connus pour l'évaluation des risques pour les droits humains, y compris l’ampleur, la portée, la probabilité et la réversibilité, fournissant des orientations supplémentaires compte tenu de la complexité socio-technique du cycle de vie de l'IA. Elle a pour objectifs de guider les efforts en matière de gestion des risques liés aux droits humains, à la démocratie et à l’État de droit, et d’offrir une méthodologie pour l’identification, l’évaluation et l’atténuation des risques de diverses applications de l’IA.

 Orientation générale et spécifique

L’HUDERIA combine une orientation générale (la Méthodologie HUDERIA) offrant une flexibilité pour l’adaptation et présentant des concepts, processus et éléments de haut niveau pour évaluer les risques et les impacts des systèmes d’IA sur les droits humains, la démocratie et l’État de droit. A un niveau plus spécifique (le Modèle HUDERIA), elle fournit des supports et des ressources, tels que des outils et des recommandations modulables) pour faciliter la mise en œuvre et servir de ressource pour les approches plus larges de la gestion de risques. 

Le CAI a adopté la Méthodologie HUDERIA le 28 novembre 2024 et prévoit de développer le Modèle HUDERIA en 2025. 

 Adaptabilité et flexibilité

La Méthodologie et le Modèle HUDERIA offrent tous les deux une flexibilité pour l’adaptation aux différents contextes, besoins et capacités. Ils fixent des buts, principes et objectifs tout en laissant une marge d'appréciation pour décider de la manière de les atteindre et en offrant un éventail d’options politiques et de gouvernance pouvant être adaptées aux circonstances spécifiques.

 Les quatre éléments de l’HUDERIA :

1. Analyse des risques

Analyse des risques fondée sur le contexte (COBRA)

La COBRA comprend trois étapes :

  1. Elle identifie les facteurs de risque clés – caractéristiques spécifiques au sein du contexte du cycle de vie d’un système d’IA - qui augmentent la probabilité d'impacts négatifs sur les droits humains, la démocratie et l'État de droit. Ces facteurs de risque sont classés en trois grandes catégories : le contexte d'application du système, son contexte de conception et de développement, et son contexte de déploiement.
  2. L’analyse de ces facteurs permet et facilite la cartographie des potentiels impacts négatifs sur les droits humains, la démocratie et l’État de droit.
  3. En se basant sur ces informations, le processus de triage se concentre sur l'identification et la hiérarchisation des systèmes présentant des risques importants, en veillant à ce que la méthodologie HUDERIA reste proportionnelle et ne soit pas trop contraignante pour les systèmes d'IA présentant un risque minime ou faible. Ce processus permet également de prendre des décisions éclairées sur la question de savoir si les avantages de la mise en place ou du déploiement d'un système d'IA l'emportent sur les risques, notamment en ce qui concerne les impacts potentiels sur les droits de l'homme, la démocratie et l'État de droit.

2. Processus d’engagement des parties prenantes

Processus d’engagement des parties prenantes (SEP)

Le Processus d’engagement des parties prenantes améliore l'Evaluation des risques et des impacts en intégrant les points de vue des personnes potentiellement affectées identifiées lors de l’étape COBRA. Adaptée aux facteurs de risques et impacts potentiels identifiés, l'engagement des parties prenantes peut prendre diverses formes et comprendre différents niveaux de participation. Ce processus permet non seulement d'améliorer la qualité de l'analyse des risques, mais aussi de favoriser la transparence, d'instaurer la confiance et d'améliorer la facilité d'utilisation et les performances du système d'IA.

3. L’Evaluation des risques

L’Evaluation des risques et des impacts (RIA)

L’évaluation des risques et des impacts fournit une évaluation détaillée des impacts potentiels et réels que les activités d’un système d’IA pourraient avoir sur les droits humains, la démocratie et l’État de droit, se concentrant particulièrement sur les risques identifiés lors du triage COBRA. Cela implique de réexaminer, contextualiser et corroborer les préjudices potentiels, tout en évaluant les variables de risques telles que l’échelle, la portée, la réversibilité et la probabilité afin de hiérarchiser et de gérés les risques de manière efficace. Sur la base de l’analyse COBRA et des potentiels éclairages apportés par le SEP, cette étape garantit une compréhension globale des risques afin d’informer les stratégies d’atténuation et de gouvernance.

4. Plan d’atténuation

Plan d’atténuation (MP)

Cet élément du processus HUDERIA spécifie les actions et les stratégies visant à traiter les impacts négatifs et à atténuer les préjudices identifiés. Il comprend la formulation de mesures ciblées en fonction de la gravité et de la probabilité de ces préjudices et le développement d’un plan complet pour leur mise en œuvre. Le cas échéant, il comprend également la mise en place de mécanismes d’accès à des voies de recours pour les personnes potentiellement affectées et les autres parties prenantes.