Quels sont les grands défis à relever dans la lutte contre la discrimination fondée sur l’intelligence artificielle et les systèmes de prise de décision automatisée ? Comment renforcer les cadres de gouvernance ? Quel rôle les autorités publiques, les organismes de promotion de l’égalité et les institutions des droits de l’homme peuvent-ils jouer dans la prévention de la discrimination et la réparation des préjudices ?
Ces questions ont été au centre d’un récent événement en ligne organisé par le Conseil de l’Europe. Deux nouvelles publications intitulées Legal protection against algorithmic discrimination in Europe: current frameworks and remaining gaps et European policy guidelines on AI and algorithm-driven discrimination for equality bodies and other national human rights structures ont été présentées pendant le webinaire.
Les biais algorithmiques aggravent les inégalités sociales existantes
L’IA s’immisce de plus en plus dans tous les aspects de notre quotidien, faisant peser de graves menaces sur la protection des droits fondamentaux. La discrimination algorithmique apparaît comme un problème particulièrement préoccupant. Les études montrent que les biais algorithmiques non seulement reflètent, mais aggravent les inégalités sociales existantes.
Ainsi, dans le domaine de l’emploi, les algorithmes de sélection entraînés sur des données historiques en matière de recrutement pourraient injustement favoriser les candidats masculins en reproduisant des décisions d’embauche antérieures faussées par des préjugés discriminatoires à l’égard des femmes ou des groupes minoritaires. Certains outils de profilage utilisés par les services publics de l’emploi comme une aide à la décision en matière d’allocation de ressources aux demandeurs d’emploi ont été jugés discriminatoires. Par ailleurs, l’IA et les systèmes de prise de décision automatisée (ADM) sont régulièrement utilisés par les forces de l’ordre. Or les études montrent que les technologies de reconnaissance faciale peuvent présenter des biais discriminatoires ou être déployées de telle manière qu’elles ciblent et surveillent les minorités de façon disproportionnée, réalisant ainsi un profilage ethnique. Les systèmes d’IA et d’ADM sont également utilisés par certaines administrations publiques en Europe pour éclairer la prise de décision dans le domaine des migrations, par exemple les décisions qui concernent la citoyenneté, l’asile ou le séjour. Parmi les utilisations signalées figurent l’identification de la langue et l’évaluation des compétences linguistiques, la détection de la fraude liée aux documents d’identité, la gestion des dossiers, la communication avec les migrants, y compris par le biais d’agents conversationnels, les prévisions en matière de migration et la surveillance des frontières par des moyens techniques. Les administrations publiques utilisent aussi l’IA et l’ADM dans d’autres secteurs d’action, comme l’aide sociale, la justice, l’éducation, la fiscalité et la santé.
Dans le secteur privé, les agences de recrutement utilisent l’IA et l’ADM pour sélectionner les candidats et dresser leur profil, rapprocher les profils et les demandes d’emploi, ou rédiger et traduire les offres d’emploi. Ces systèmes sont également déployés dans des domaines essentiels du secteur privé comme la banque et l’assurance.
Nouveaux cadres juridiques
En 2024, l’Union européenne et le Conseil de l’Europe ont tous deux adopté des instruments juridiques qui ont fait date : le règlement de l’UE sur l’intelligence artificielle ou « AI Act » (règlement 2024/1689) et la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit. L’une des publications présentées aujourd’hui à l’occasion de cet événement examine comment ces nouveaux instruments juridiques contribuent à renforcer les protections contre la discrimination algorithmique en Europe et évalue les lacunes qui subsistent dans ces cadres réglementaires.
Aider les acteurs au niveau national
La seconde publication s’intéresse au rôle clé que peuvent jouer les organismes de promotion de l’égalité et autres structures nationales de défense des droits de l’homme pour identifier et atténuer les risques que présentent les systèmes d’IA/ADM et promouvoir un déploiement de ces systèmes par les organismes publics qui soit conforme aux droits fondamentaux. Ces lignes directrices proposent des recommandations et des exemples pour l’application des nouvelles réglementations de l’UE et du Conseil de l’Europe. Elles ont été conçues pour aider et conseiller les parties prenantes nationales dans les domaines des droits humains, de l’égalité et de la non-discrimination.
Parmi les participants figuraient des représentants de la Commission européenne, des organismes nationaux de promotion de l’égalité de Belgique, du Portugal et de Finlande, ainsi que des universitaires.
Ce webinaire a été organisé et les publications ont été élaborées dans le cadre du projet d’appui technique de l’Union européenne et du Conseil de l’Europe intitulé « Défense de l’égalité et de la non-discrimination par les organismes de promotion de l’égalité concernant l’utilisation de l’intelligence artificielle (IA) dans les administrations publiques – inclusion et anti-discrimination » et en coopération avec le Centre interfédéral pour l’égalité des chances (Unia, Belgique), le médiateur pour la non-discrimination (Finlande) et la Commission pour la citoyenneté et l’égalité de genre (Portugal).
Le Conseil de l’Europe gère de vastes programmes d’activités de coopération pour lutter contre la discrimination, le discours de haine et les infractions motivées par la haine, et pour soutenir l’autonomisation des minorités, la gestion positive de la diversité et le respect des droits humains, y compris dans le déploiement des technologies numériques et des systèmes algorithmiques et d’intelligence artificielle.
Lire Lignes directrices politiques européennes relatives aux discriminations induites par l’IA et les algorithmes à l’intention des organismes de promotion de l’égalité et des autres structures nationales des droits humains dans son intégralité (également disponible en ENG, NDL, POR, FIN, SWE)
Lire La protection juridique contre la discrimination algorithmique en Europe : Cadres actuels et lacunes subsistantes dans son intégralité (également disponible en ENG, NDL, POR, FIN, SWE)
Le Conseil de l’Europe et l’inclusion et l’anti-discrimination
