De nombreuses études soulignent les risques que les systèmes dits d’intelligence artificielle (IA) et de prise de décision automatisée font peser sur les principes d’égalité et de non-discrimination en matière d’emploi, de fourniture de biens ou services publics ou privés, de politiques publiques de sécurité ou encore par exemple de lutte contre la fraude.

Des perspectives de régulation de l’intelligence artificielle ont été tracées par le Conseil de l’Europe comme par la Commission européenne. Dans ce contexte, il est nécessaire que les autorités indépendantes se saisissent de ce sujet encore peu appréhendé. En effet, le Défenseur des droits est compétent pour lutter contre toutes les formes de discrimination, y compris lorsqu’elles sont le résultat de dispositions algorithmiques. L’institution, en partenariat avec la CNIL, Commission Nationale de l'Informatique et des Libertés a déjà eu l’occasion de se positionner publiquement sur ces questions, et a également entamé un dialogue nourri avec divers partenaires européens, dont le Conseil de l’Europe.

 Dans ce cadre, le Conseil de l’Europe, en collaboration avec le Défenseur des droits, a élaboré une formation en ligne sur l’intelligence artificielle et les discriminations, destinée dans un premier temps aux agents du Défenseur des droits et de la CNIL. Cette formation présente les réglementations et les normes européennes en vigueur et à venir, des études de cas, des bonnes pratiques, et permet d’engager une discussion sur les objectifs et les méthodes de coopération entre les différents régulateurs dans ce domaine.

 

  Quand et où se déroulera la formation ? 

Cette formation se déroulera en ligne et comportera 4 modules qui seront disponibles du 9 juin au 9 juillet 2021.

 

 Qui peut s'inscrire ?

Cette formation permettra, dans un premier temps aux agents du DDD et de la CNIL d’acquérir une première expertise sur la question des discriminations en lien avec l’intelligence artificielle et d’en comprendre les principaux enjeux.

 

 Méthodologie

La formation sera accessible sur la plateforme de formation aux droits de l’homme pour les professionnels du droit (HELP) du Conseil de l’Europe. Chaque module sera constitué de documents à lire, de vidéos d’experts et de courts exercices. Il sera possible d’échanger avec les autres participants ainsi qu’avec une personne référente qui répondra aux questions des participants sur le forum de la plateforme de formation

Le temps de travail consacré à la lecture des modules est d’environ deux jours à répartir librement. Par ailleurs, deux webinaires interactifs ouvriront et clôtureront la formation, le 9 juin de 14 à 17 heures et le 9 juillet de 10 à 12 heures.

Enfin, une session de questions/réponses sera organisée le 25 juin de 10 à 12 heures. Le temps total de cette formation est donc d’environ 3 jours. Un certificat sera délivré à son issue. L’ensemble de la formation est prévu en français. Cependant, un certain nombre de ressources ou informations complémentaires peuvent être parfois proposées en anglais.

 

 Contenu de la formation

  • Module 1 : Introduction à l’intelligence artificielle, la prise de décision algorithmique et son impact sur l’égalité et la nondiscrimination
  • Module 2 : Législation et réglementation de l’intelligence artificielle, prise de décision automatisée, vers la réparation des discriminations et autres considérations relatives aux droits fondamentaux
  • Module 3 : L’intelligence artificielle et la discrimination sont partout ! – Réflexion sur des sujets de préoccupation spécifiques et des réponses adaptées
  • Module 4 : Que peuvent faire les autorités administratives indépendantes ?

 L'étude intitulée "Discrimination, intelligence artificielle et décisions algorithmiques" (commissionnée par l'ECRI, la Commission européenne contre le racisme et l'intolérance du Conseil de l'Europe) a identifié de nombreux défis de ce type et a déclaré que les organismes de promotion de l'égalité ont un rôle clé à jouer dans la sensibilisation, la prévention et la réparation. L'étude a également montré que la discrimination par les systèmes d'IA & la prise de décisions automatisée (ADM) peuvent être abordée par le biais de différents outils réglementaires, notamment la protection des données et la réglementation sectorielle telle que les lois sur l'emploi. Cela requiert une coopération intersectorielle entre les régulateurs nationaux afin d'offrir des recours efficaces, de partager l'expertise et de répartir la charge de travail.

 Une étude réalisée pour Equinet (le réseau européen des organismes de promotion de l'égalité) a approfondi et souligné le rôle clé que jouent les organismes de promotion de l'égalité pour garantir que les pratiques d'IA et de l'ADM ne soient pas biaisées, en fournissant une série de recommandations pratiques et en définissant un programme d'actions que les organismes de promotion de l'égalité pourraient entreprendre dans leurs contextes nationaux respectifs. L'étude a également souligné que, bien que les organismes de promotion de l'égalité aient un rôle clé à jouer dans la prévention de la discrimination liée à l'IA et aux prises de décisions automatisée, ce potentiel ne peut être exploité que si ces organismes, ainsi que d'autres régulateurs nationaux, reçoivent une formation sur ce sujet techniquement exigeant. Ce cours vise à répondre à ce besoin.

 Pour répondre à ces besoins identifiés pour les organismes de promotion de l'égalité et les autres régulateurs, la Division Inclusion et Anti-Discrimination, en coopération avec le Centre for Data Ethics and Innovation (CEDI), a organisé le premier cours de formation en ligne sur "L'IA et la discrimination" pour les régulateurs au Royaume-Uni (décembre 2020-février 2021). Le cours a présenté les réglementations et normes européennes, les études de cas, les bonnes pratiques, et engagera une discussion sur les objectifs et les méthodes de coopération intersectorielle entre les régulateurs dans ce domaine.

Le Défenseur des droits (DDD) est une autorité administrative indépendante, chargée de défendre les droits des citoyens face aux administrations (ombudsman) mais qui dispose également de prérogatives particulières en matière de promotion des droits de l'enfant, de lutte contre les discriminations, du respect de la déontologie des activités de sécurité.

Le Conseil de l'Europe (CdE) est une organisation intergouvernementale chargée de promouvoir les droits de l'homme, ll'état de droit et la démocratie parmi ses 47 États membres en Europe. Il travaille sur une série de normes et de lignes directrices pour la protection des droits de l'homme et de la démocratie en relation avec l'IA & la prise de décision automatisée.

Pour plus d'information:
 Défenseurs des droits
 Conseil de l'Europe