Égalité et intelligence artificielle

Cette recommandation fournit aux États membres des orientations dans la prévention et la lutte contre les discrimination tout au long du cycle de vie des systèmes d'IA – de leur conception jusqu'à leur utilisation, jusqu'à leur mise hors service. Une attention particulière est accordée à la transparence des systèmes d’IA et à leur capacité à fournir des explications claires aux humains sur leurs actions (« explicabilité »), ainsi qu’au renforcement des garanties procédurales et des voies de recours. L'exposé des motifs de la recommandation identifie les domaines politiques dans lesquels l'IA peut avoir un impact particulièrement important sur l'égalité, y compris l'égalité de genre. La recommandation met l'accent sur trois types de discrimination : le genre et le sexe, le racisme, ainsi que l'orientation sexuelle, l'identité et l'expression de genre, et les caractéristiques sexuelles (SOGIESC).
Au cours de son mandat actuel (2024-2027), le CDADI mènera des activités visant à soutenir la mise en œuvre de la Recommandation CM/Rec(2026)1 sur l’égalité et l’IA :
- Préparer une compilation de pratiques prometteuses et/ou d’outils pour la mise en œuvre au niveau national des aspects pertinents de cette recommandation (en coopération avec le GEC)
- Recommandation CM/Rec(2026)1 sur l'égalité et l'intelligence artificielle et CM(2025)180-add4final - Exposé des motifs
- Étude sur l’impact des systèmes d’intelligence artificielle, leur potentiel de promotion de l’égalité, y compris l’égalité de genre, et les risques qu’ils peuvent entraîner en matière de non-discrimination
- Lignes directrices européennes relatives aux discriminations induites par l'IA et les algorithmes à l'intention des organismes de promotion de l'égalité et des autres structures nationales des droits humains (également disponible en GB, DUT, POR, FIN, SWE)
- La protection juridique contre la discrimination algorithmique en Europe : cadres actuels et lacunes subsistantes (également disponible en GB, UT, POR, FIN, SWE)
- IA et discrimination
- Comité directeur pour les technologies numériques nouvelles et émergentes (CDNET)
- Évaluation des risques et des impacts des systèmes d'intelligence artificielle du point de vue des droits de l'homme, de la démocratie et de l'État de droit (HUDERIA), Modèle HUDERIA : analyse des risques basée sur le contexte (COBRA)
- Etude sur « Discrimination, intelligence artificielle et décisions algorithmiques » (commandée par la Commission européenne contre le racisme et l'intolérance du Conseil de l'Europe)
- CAI - Comité sur l'intelligence artificielle
- Agence des droits fondamentaux de l'UE, Biais dans les algorithmes - Intelligence artificielle et discrimination (anglais uniquement)