« Les structures nationales des droits humains efficaces et indépendantes sont les gardiennes des droits humains au niveau national, dans les États membres, et sont des partenaires essentiels pour moi. Elles jouent un rôle crucial dans la prévention, l’atténuation et la surveillance des effets des systèmes d’intelligence artificielle (IA) sur les droits humains », a déclaré la Commissaire à l'occasion d'un échange de vues avec des structures nationales des droits humains des États membres du Conseil de l'Europe, organisé à Amsterdam (Pays-Bas) par le bureau de la Commissaire.
« La technologie fait partie du monde dans lequel nous vivons et de presque tous les aspects de notre vie. Ce phénomène prend de plus en plus d’ampleur et l'IA ne cessera de se complexifier et de se sophistiquer dans les années à venir. La conception, le développement et le déploiement de systèmes d’IA ont des répercussions considérables sur notre cadre de vie et sur la manière dont nous exerçons nos droits humains ; ces systèmes pourraient représenter une menace notamment en matière de confidentialité, d’égalité et d’accès à la justice. Aussi compliquée que puisse être l’IA, l'obligation fondamentale incombant aux États membres reste, quant à elle, très simple : les États membres doivent faire en sorte que les droits humains soient préservés tout au long de ces processus d'innovation. Compte tenu de leur mandat, qui est d’observer comment les États membres protègent et font respecter les droits inscrits dans la Convention européenne des droits de l'homme, les structures nationales des droits humains jouent un grand rôle en vérifiant que cette obligation est remplie, y compris partout où l’IA est mise en œuvre. »
Les participants à l’échange de vues ont souligné que l’utilisation de l’IA devait faire l’objet d’approches plus globales et fondées sur les droits humains et ont insisté sur les difficultés rencontrées en termes de transparence et d’accès à l’information qui sont liées à l’utilisation de systèmes de prise de décision automatisée, y compris par les administrations publiques.
« Dans le cadre de la conception, du développement et du déploiement de l’IA s’ouvrent des possibilités encore inexploitées de poursuivre des objectifs fondés sur nos valeurs : les innovations pourraient permettre, par exemple, de mettre en évidence et de combattre les préjugés et les partis pris, de stimuler la participation du public et d’amplifier la voix de ceux qui ne sont généralement pas entendus », a déclaré la Commissaire à la fin de la rencontre. « Les structures nationales des droits humains et leurs réseaux européens, comme ENNHRI et EQUINET, ont pris des initiatives louables pour renforcer leur capacité à traiter les questions de droits humains découlant de l'utilisation des systèmes d'IA et pour sensibiliser le public au potentiel et aux risques de l'IA pour les droits humains. Il est indispensable de les associer à tous les processus en lien avec l'IA et avec sa réglementation, en particulier à l'application et au contrôle des normes au niveau national. La conception, le développement et le déploiement de l'IA doivent être supervisés par une ou plusieurs autorités indépendantes, dotées de ressources suffisantes et chargées de traiter et d'examiner les plaintes relatives aux droits humains et d’en assurer le suivi. Ces autorités devraient aussi être tenues de coopérer étroitement avec d'autres institutions indépendantes, notamment avec les structures nationales des droits humains. »
Les 30 et 31 mars 2023, la Commissaire a rencontré 30 dirigeants ou représentants d’institutions nationales des droits humains, d’organismes de promotion de l’égalité et d’institutions du Médiateur des États membres du Conseil de l'Europe. L’objectif était de discuter de leurs expériences et d’examiner ensemble les difficultés et les pratiques prometteuses liées à la mise en œuvre de la recommandation formulée par la Commissaire en 2019 et intitulée « Décoder l’intelligence artificielle : 10 mesures pour protéger les droits de l’homme ». Un rapport assorti de recommandations de la Commissaire aux droits de l'homme sur la manière de faire mieux appliquer les normes des droits humains dans le cadre de la conception, du développement et du déploiement de l’IA sera publié prochainement.