« Alors que le développement de l’IA touche presque tous les aspects de nos vies et que son influence continuera d’augmenter dans un avenir prévisible, les États membres doivent prendre des mesures concrètes pour garantir que les droits humains sont protégés lors de la conception, du développement et du déploiement des systèmes d’IA », affirme la Commissaire aux droits de l’homme du Conseil de l’Europe, Dunja Mijatović, dans un rapport publié aujourd’hui.
Dans ses recommandations intitulées « Human rights by design - future-proofing human rights protection in the era of AI » (qui expliquent comment assurer la protection des droits humains à l’ère de l’intelligence artificielle, en intégrant la question des droits humains dès la conception des systèmes d’IA), la Commissaire, qui s’appuie sur ses premières orientations pratiques, publiées en 2019, examine les principaux défis auxquels sont confrontés les États membres pour protéger et promouvoir les droits humains dans le cadre de l’utilisation de l’IA. Les États membres devraient, par exemple, évaluer les risques et les conséquences des systèmes d’IA pour les droits humains avant de les utiliser, renforcer les garanties de transparence et assurer un contrôle indépendant et l’accès à des recours effectifs. « L'approche globale manque de cohérence. Une réglementation des systèmes d'IA axée sur les droits humains fait encore défaut », constate la Commissaire.
La Commissaire fait observer que l'idée selon laquelle l'IA est tellement complexe et mystérieuse qu'elle échappe au contrôle humain et à une réglementation efficace est erronée. Pourtant, ce mythe dissuade les hauts responsables politiques de s'engager véritablement dans la lutte contre les atteintes que l’IA pourrait porter aux droits humains ; elle entrave aussi l'application effective des normes juridiques en vigueur et la création des mécanismes nécessaires pour atténuer les menaces.
Sur la base de ses constatations et de sa consultation des structures nationales des droits humains, la Commissaire met en évidence trois tendances interdépendantes qui constituent des obstacles à la pleine mise en œuvre des normes internationales en matière de droits humains liées à l'IA en Europe.
Premièrement, l'absence d'approches globales et fondées sur les droits humains. Trop souvent, les États membres adoptent des approches sectorielles pour la mise en œuvre des normes des droits humains et se concentrent sur des sous-ensembles de droits, tels que les droits relatifs à la vie privée, plutôt que de veiller à ce que les garanties existantes soient appliquées de manière cohérente à tous les secteurs utilisant l’IA. Les dispositions juridiques, lorsqu’elles existent, ne sont appliquées ni efficacement ni rapidement : en effet, les infrastructures dépendent de grandes plateformes, ce qui entrave la mise en œuvre, et le contrôle reste fragmenté.
Deuxièmement, des insuffisances en matière de transparence et de partage des informations. Les informations claires et actualisées sur l'IA et sur ses conséquences potentielles pour les droits humains restent rares en Europe. Les mesures de protection de la propriété intellectuelle constituent des obstacles à l'application des droits à l'information, y compris pour le pouvoir judiciaire, les structures nationales des droits humains et les autorités de régulation, ce qui entrave l'exercice d'un contrôle indépendant.
Troisièmement, le manque d’initiatives des États membres qui viseraient à utiliser l’IA pour renforcer les droits humains. Le développement de l'IA étant essentiellement le fait du secteur privé, les pouvoirs publics adoptent généralement une approche plus réactive que proactive. La Commissaire les met cependant en garde : « En retardant la mise en place d'une réglementation qui favoriserait l'innovation alternative, les États membres risquent de gâcher les possibilités que donnent les capacités de l’IA de renforcer la protection des droits humains et le respect des principes fondamentaux de la démocratie et de l’État de droit. »
Dans ses recommandations, la Commissaire souligne le rôle crucial que jouent les structures nationales des droits humains pour faire en sorte que les États membres protègent les droits humains lors de la conception, du développement et du déploiement des systèmes d'IA. Elle souligne également la nécessité de renforcer la supervision et le contrôle exercés par des institutions indépendantes, de promouvoir la transparence des systèmes d'IA et la sensibilisation du public à leurs effets sur les droits humains, et d'explorer de manière proactive les possibilités que donne l'IA de renforcer la protection des droits humains plutôt que de l’affaiblir. Selon la Commissaire, « il existe encore un potentiel inexploité en matière de conception, développement et déploiement de l’IA encouragés par des objectifs fondés sur des valeurs : par exemple, mettre au jour et contrer les préjugés et les discriminations, stimuler la participation du public, donner des moyens de s’exprimer à ceux qui peinent à se faire entendre, et lutter contre les inégalités en accordant la priorité aux plus défavorisés ».