Le rôle du secteur privé dans l'éducation prend de plus en plus d'importance, que ce soit par le biais des écoles privées ou par l'acquisition auprès d'entreprises privées de systèmes d'enseignement et de gestion scolaire basés sur l'IA destinés à être utilisés dans les écoles publiques. Les États doivent veiller à ce que les entreprises et autres partenaires clés assument leurs responsabilités en matière de droits humains et soient tenus de rendre des comptes en cas d'abus. Les entreprises ont la responsabilité de respecter les droits humains, y compris les droits de l'enfant, comme l'affirment les Principes directeurs relatifs aux entreprises et aux droits de l'homme des Nations unies et la Recommandation CM/Rec(2016)3 du Comité des ministres aux États membres sur les droits de l'homme et les entreprises[1]. En vertu de la CEDH, les États ne peuvent s'exonérer de leur responsabilité en déléguant leurs obligations à des organismes privés ou à des particuliers. Cela inclut l'enseignement dispensé par les écoles privées et leur personnel, dont les actes peuvent engager la responsabilité de l'État[2].

La Recommandation CM/Rec(2018)7 du Comité des ministres recommande aux États d'exiger des entreprises commerciales et des autres parties prenantes concernées qu'elles s'acquittent de leur responsabilité de respecter les droits de l'enfant dans l'environnement numérique et de les encourager à soutenir et à promouvoir ces droits. Les États devraient promouvoir et inciter les entreprises commerciales à mettre en œuvre la sécurité dès la conception, la protection de la vie privée dès la conception et la protection de la vie privée par défaut en tant que principes directeurs pour les caractéristiques et fonctionnalités des produits et services adressés aux enfants ou utilisés par eux.

Les États devraient prendre des mesures appropriées pour protéger les enfants contre les violations des droits humains commises par les entreprises dans l'environnement numérique et pour veiller à ce que les enfants aient accès à un recours effectif. Il s'agit notamment de mettre en œuvre des politiques et des mesures visant à encourager les entreprises à mettre en place leurs propres mécanismes de recours et de réclamation, conformément aux critères d'efficacité définis dans les principes directeurs des Nations unies, tout en veillant à ce que ces mécanismes n'entravent pas l'accès de l'enfant aux mécanismes judiciaires ou non judiciaires de l'État. Les États devraient également encourager les entreprises à fournir des informations accessibles, adaptées à l'âge et disponibles dans la langue de l'enfant sur la manière de déposer des plaintes et de demander réparation par le biais de mécanismes de recours et de réclamation. En outre, les entreprises commerciales devraient être tenues de mettre à disposition, sur leur plateforme ou au sein de leur service, des moyens facilement accessibles permettant à toute personne, et en particulier aux enfants, de signaler tout matériel ou activité qui les inquiète, en veillant à ce que les signalements reçus soient traités de manière efficace et dans des délais raisonnables[3]. Il devrait y avoir des moyens accessibles et efficaces de signaler les préjugés, les erreurs ou les préoccupations concernant les systèmes éducatifs pilotés par l'IA qui pourraient avoir un impact sur les titulaires de droits.

 

[1] Voir section VI : "Protection additionnelle des enfants".

[2] Costello-Roberts c. Royaume-Uni, No. 13134/87, 25 mars 1993, § 27.

[3] CM/Rec(2018)7, § 71.