Non-discrimination et égalité
Le droit à l'éducation prévu à l'article 2 du Protocole n° 1 à la CEDH, lu conjointement avec l'article 14 de la CEDH, exige que les États traitent les risques liés à la non-discrimination et à l'égalité pour tous les individus dans le contexte éducatif[1]. Dans le contexte des systèmes d'IA, cela implique de veiller à ce que les systèmes d'IA ne renforcent pas les préjugés susceptibles d'entraîner des résultats discriminatoires ou de créer des obstacles à l'accès à l'éducation, ou des inégalités dans le niveau et la qualité de l'éducation. Les enfants, en particulier, et en raison de leur stade de développement, ont des besoins et des droits spécifiques qui les distinguent des adultes. Il est donc nécessaire de mettre en place des réglementations axées sur les enfants dans le cadre de l'acquisition et de l'utilisation des technologies éducatives, y compris les systèmes d'intelligence artificielle[2]. Dans toutes les actions concernant les enfants, qu'elles soient entreprises par des institutions publiques ou privées de protection sociale, des tribunaux, des autorités administratives ou des organes législatifs, l'intérêt supérieur de l'enfant doit être une considération primordiale[3].
Compte tenu de l'importance croissante des nouvelles technologies, plusieurs documents du Conseil de l'Europe ont été adoptés dans ce domaine, invitant les États à veiller à ce que les enfants aient un accès à l'environnement numérique de manière non discriminatoire et inclusive, en tenant compte des capacités en développement des enfants et des circonstances particulières des enfants en situation de vulnérabilité[4]. Cela devrait également s'appliquer dans les situations où des systèmes d'IA sont impliqués. Des efforts doivent être entrepris pour respecter, protéger et réaliser les droits de chaque enfant dans un cadre éducatif, mais des mesures ciblées peuvent être nécessaires pour répondre aux besoins spécifiques, en reconnaissant que les systèmes d'IA ont le potentiel à la fois d'augmenter la vulnérabilité des enfants et de les autonomiser, protéger et soutenir.[5].
Dans le contexte de l'article 14 de la CEDH, les obligations positives des États pourraient inclure des mesures visant à corriger les « inégalités de fait »[6]. L'action positive, ou les mesures temporaires spéciales, peuvent comprendre des mesures visant à prévenir ou à compenser les désavantages subis par les groupes exposés à la discrimination et à l'intolérance et à faciliter leur pleine participation dans tous les domaines de la vie[7]. Les États membres devraient ainsi veiller à ce que les établissements d'enseignement utilisent les systèmes d'IA de manière inclusive[8]. Les États devraient également s'efforcer de renforcer l'utilisation des technologies de l'information et de la communication par les filles et de promouvoir l'égalité des chances et des résultats pour tous les enfants[9]. En outre, des systèmes tels que la reconnaissance faciale, utilisée dans le cadre d'un système d'IA de surveillance conçu pour contrôler le comportement des étudiants pendant les examens en ligne, peuvent présenter des préjugés et conduire à une discrimination intersectionnelle, notamment fondée sur la race et le sexe[10]. En vertu de la CEDH, toute différence de traitement doit poursuivre un but légitime et être proportionnée[11]. Il convient donc d'accorder une attention particulière à l'utilisation des systèmes d'IA dans les procédures de sélection et d'examen, afin d'éviter les résultats discriminatoires.
En outre, un accès limité aux systèmes et outils d'IA peut empêcher les individus ou les groupes de bénéficier de leurs avantages, entraînant ainsi des désavantages dans divers secteurs, notamment l'éducation. La littératie en IA, qui pourrait être considérée comme une extension ou une spécialisation de la littératie numérique, devrait être incluse dans le programme d'éducation de base dès les premières années, en tenant compte des capacités en développement des enfants.[12] Cela comprend les compétences techniques, les compétences en matière de création de contenu et la compréhension critique des risques et des opportunités en ligne. Les efforts devraient se concentrer sur les écoles, les organisations centrées sur les enfants et les parents ou tuteurs, afin de garantir un environnement numérique sûr et inclusif. Les politiques d'éducation numérique ne devraient pas désavantager les enfants qui manquent de ressources à la maison ou qui vivent dans des institutions. Un soutien particulier devrait être apporté aux enfants ayant un accès limité ou inexistant au numérique, y compris ceux issus de milieux socio-économiquement défavorisés et les enfants en situation de handicap. Les États devraient également œuvrer pour combler la fracture numérique et l'écart entre les sexes dans le domaine des technologies, en garantissant des chances égales pour tous les enfants, quels que soient leur origine, avec une attention particulière portée aux filles, afin qu'elles puissent accéder aux outils numériques, y compris les systèmes d'IA, et en tirer parti.[13].
[1] Plusieurs traités internationaux interdisent la discrimination dans l'éducation, notamment la Convention de l'UNESCO de 1960 contre la discrimination dans l'enseignement, le Pacte international relatif aux droits économiques, sociaux et culturels de 1966 (article 13), la Convention des Nations unies relative aux droits de l'enfant de 1989 (article 28) et la Convention relative aux droits des personnes en situation de handicap (article 24).
[2] Preparatory study for the development of a legal instrument on regulating the use of artificial intelligence systems in education, Revised draft (mars 2024) (en anglais uniquement), Unité de transformation numérique du département de l'éducation, Conseil de l'Europe.
[3] Convention des Nations unies relative aux droits de l'enfant de 1989, article 3. Sur « l'intérêt supérieur de l'enfant », voir Neulinger et Shuruk c. Suisse [GC], n° 41615/07, 6 juillet 2010, §§ 49-56. La Cour place également au premier plan « l'intérêt supérieur de l'enfant », qui peut, selon sa nature et sa gravité, prévaloir sur celui des parents (ibid., § 134).
[4] CM/Rec(2018)7 Lignes directrices relatives au respect, à la protection et à la réalisation des droits de l'enfant dans l'environnement numérique, 4 juillet 2018.
[5] Lignes directrices du Conseil de l'Europe sur la protection des données des enfants dans un cadre éducatif (2020), Comité sur la Convention 108, T-PD(2019)06BISrev5, paragraphe 5.4
[6] Guide sur l'article 14 de la Convention européenne des droits de l'homme et sur l'article 1 du Protocole 12, CEDH, p. 14.
[7] Voir également la Recommandation de politique générale No. 2 révisée de l'ECRI sur les organismes de de promotion de l’égalité chargées de lutter contre le racisme et l'intolérance au niveau national, paragraphe 60, et la Recommandation de politique générale No. 7 révisée de l'ECRI sur la législation nationale pour lutter contre le racisme et la discrimination raciale, paragraphe 5.
[8] Recommandation CM/Rec(2019)1 sur la prévention et la lutte contre le sexisme, en particulier II.G. « Établissements d'enseignement ».
[9] CM/Rec(2018)7 Lignes directrices relatives au respect, à la protection et à la réalisation des droits de l'enfant dans l'environnement numérique, 4 juillet 2018, para. 46
[10] Étude CDADI/GEC (2023), p. 24.
[11] Par exemple, les modifications d'un système d'accès à l'université qui ont conduit à une différence de traitement ont emporté violation de l'article 14, combiné avec l'article 2 du Protocole No. 1, alors qu'elles visaient à améliorer rapidement la qualité de l'enseignement supérieur. L'application imprévisible du nouveau système, conjuguée à l'absence de mesures correctives, a rendu sa mise en œuvre disproportionnée par rapport à ce but - voir Altınay c. Turquie, No. 37222/04, 9 juillet 2013, § 60.
[12] Recommandation CM/Rec(2019)10 visant à développer et à promouvoir l'éducation à la citoyenneté numérique, 21 novembre 2019 ; Recommandation CM/Rec(2016)2 sur l'Internet des citoyens, 10 février 2016.
