Mise à jour du 2 juillet 2019

Anti-Discrimination

La Commission européenne contre le racisme et l'intolérance et les programmes d'inclusion et d'antidiscrimination ont publié l'étude "Discrimination, intelligence artificielle et prise de décision algorithmique", préparée par le professeur Frederik Zuiderveen Borgesius pour le Département antidiscrimination du Conseil de l'Europe. L'étude examine en détail les risques de discrimination causés par la prise de décision algorithmique et d'autres types d'intelligence artificielle (IA). L'étude a servi de base à la déclaration de Christian Ahlund, membre du Bureau de l'ECRI, sur l'intelligence artificielle et la démocratie, lors de la Conférence de haut niveau sur l'IA, Helsinki, 26 février 2019. Des discussions ont eu lieu lors de l'EuroDIG 2019, pré-événement auquel ont participé le médiateur finlandais, Amnesty International et des start-ups Internet. L'ECRI organisera une session sur l'IA et la discrimination lors de sa conférence du 25e anniversaire en septembre 2019 à Paris. Dans le cadre de ses programmes de terrain sur la lutte contre la discrimination et le discours de haine, des modules de sensibilisation et des outils destinés aux organismes de promotion de l'égalité seront mis au point.

Bioéthique

Le Comité de bioéthique (DH-BIO) prépare actuellement un plan d'action stratégique sur les technologies et les droits de l'homme dans le domaine de la biomédecine 2020-2025, qui met l'accent sur la protection des groupes vulnérables comme les enfants et les personnes âgées. Un guide sur l'engagement du public sur les questions fondamentales soulevées par les progrès de la biologie et de la médecine, en particulier dans le domaine des nouvelles technologies, est également en préparation.

Droits des enfants

La Stratégie du Conseil de l'Europe pour les droits de l'enfant (2016-2021) met l'accent sur les droits de l'enfant sur Internet, et les actions mises en œuvre tiennent compte du fait que les nouvelles technologies, comme l'intelligence artificielle (IA), ont inévitablement un impact sur le bien-être des enfants et leurs droits. Cette dimension a été pleinement prise en compte par le Comité ad hoc pour les droits de l'enfant (CAHENF) dans la préparation de la Recommandation CM/Rec(2018)7 du Comité des Ministres aux Etats membres sur les Lignes directrices visant à respecter, protéger et réaliser les droits de l'enfant dans un environnement numérique. Un manuel de mise en œuvre est en cours d'élaboration et contiendra de nouvelles orientations et des exemples de bonnes pratiques, notamment sur les questions liées à l'IA.

Le Manuel de maîtrise d'Internet est un outil destiné aux enfants, aux parents, aux enseignants et aux décideurs politiques pour tirer le meilleur parti d'Internet et préparer les enfants à l'utiliser en toute sécurité et en toute confiance en étant conscients des possibilités et des risques. La traduction et la mise à disposition du Manuel de maîtrise de l'Internet dans d'autres langues et de fiches d'information sur l'IA à l'usage des enseignants, éducateurs, parents et élèves (2018-2019) sont en cours.

Culture

La Division de la culture et du patrimoine culturel a organisé un séminaire sur la culture, la créativité et l'intelligence artificielle à l'intention des experts et des membres du CDCPP dans le cadre de la présidence croate du Comité des Ministres du Conseil de l'Europe (E-relevance of Culture in the Age of AI, Rijeka, 12-13 octobre 2018). L'événement a donné lieu à une série d'exemples et de lignes directrices sur la façon dont les politiques pourraient être conçues pour relever les défis et saisir les opportunités de l'IA dans ce secteur, pour les États membres et les autres parties prenantes. Une publication complète rassemblant des essais et des réflexions d'éminents spécialistes de l'intelligence artificielle dans le domaine culturel et créatif est en préparation. Un petit livret a déjà été publié. Des témoignages vidéo et des conclusions sont également publiés en ligne. Toutes les nouvelles sont publiées sur la page web dédiée.

Protection des données

Le Comité consultatif de la Convention 108 a publié des lignes directrices sur les implications de l'intelligence artificielle en matière de protection des données qui fournissent un ensemble de mesures de base que les gouvernements, les concepteurs, les fabricants et les prestataires de services d'intelligence artificielle devraient suivre pour veiller à ce que les applications de l'intelligence artificielle ne portent pas atteinte à la dignité humaine et aux droits et libertés fondamentaux des individus, notamment en ce qui concerne le droit à la protection des données, en émettant des recommandations (sur les possibilités de limiter leur incidence sur la dignité et la liberté individuelle et sur la nécessité de prendre en compte la dimension éthique de l'usage de ces technologies).

La Convention 108 modernisée offre de nouveaux moyens de protection pour les personnes confrontées à la prise de décision algorithmique

Des lignes directrices sur les mégadonnées ont été adoptées par le Comité en 2017, qui posent les bases de la protection des personnes physiques à l'égard du traitement des données à caractère personnel à l'ère du big data.

Democratie

Le Département de la gouvernance démocratique travaille actuellement sur le vote électronique et l'indice européen de performance électorale.

En ce qui concerne le vote électronique et sur la base de la Recommandation (2017)5 sur le vote électronique, il sera procédé à un examen des domaines dans lesquels l'IA peut avoir un impact tout au long du processus de vote électronique et des propositions de solutions pour maximiser les effets positifs et minimiser les effets négatifs de l'IA à cet égard.

Dans le cadre de l'Indice Européen de Performance Electorale (EEPI), une recherche sur les critères et l'influence de diverses formes d'intelligence artificielle et d'algorithmes automatisés, qui pourraient être pertinents (en plus des indicateurs existants) et qui pourraient avoir un impact (positif ou négatif) sur le cycle électoral, est en cours.

Education

Le Département de l'éducation organisera un séminaire d'experts dans le cadre du projet Éducation à la citoyenneté numérique en vue d'examiner les défis de l'IA pour les décideurs politiques dans le domaine de l'éducation - de l'apprentissage électronique à l'apprentissage intelligent. Il sera produit un document d'orientation - en vue de l'élaboration d'un plan stratégique pour l'éducation à la citoyenneté numérique.

Eurimages

La promotion de la liberté d'expression et la diversification de l'offre culturelle constituent les objectifs fondamentaux d'Eurimages. C'est la raison pour laquelle le Fonds suit de près l'évolution des habitudes de consommation dans l'industrie cinématographique européenne. Les nouvelles technologies et l'IA ont changé les règles du jeu et ont eu un impact sur la diversité culturelle. Pour le meilleur et pour le pire.

Au cours des dernières années, les plates-formes numériques de vidéo à la demande (VoD), principalement non européennes, ont représenté la plus forte croissance d'audience par rapport aux cinémas et à la télévision. Par exemple, Netflix approche rapidement les 150 millions d'abonnés dans plus de 190 pays.

Grâce aux technologies prédictives basées sur l'intelligence artificielle et le big data, ces plates-formes ont développé des systèmes de recommandation très puissants. La majorité des abonnés de streaming choisissent ce qu'ils veulent regarder à la suite d'une décision prise par un ou plusieurs algorithmes. Plus de 80 pour cent du contenu regardé sur Netflix est découvert grâce au système de recommandation de la plate-forme.

Outre la distribution de contenus, les géants de la diffusion en continu sont également devenus des protagonistes importants dans le financement des œuvres audiovisuelles. Leurs investissements dans la production de contenu sont également déterminés par "l'analyse des données" et les préférences des utilisateurs des plates-formes. Le modèle développé est centré sur la demande (bottom-up) et non plus sur l'offre (top-down).

Ces changements structurels tant dans la production que dans la distribution soulèvent de nombreuses questions aux niveaux éthique, culturel, économique et politique.

Le but de l'étude lancée en mai 2019 est de déterminer si la situation actuelle du secteur audiovisuel dans nos Etats membres nécessite la mise en place de mesures spécifiques pour assurer le respect des valeurs fondamentales du Conseil de l'Europe.

Lutte contre la corruption

Le Groupe d'Etats contre la corruption (GRECO), qui est l'organe de lutte contre la corruption du Conseil de l'Europe, n'a pas encore analysé en profondeur toutes les implications de l'IA sur la corruption, mais a entamé un travail de terrain pour explorer les risques et avantages de l'IA. Premièrement, des mesures doivent être prises pour interdire l'utilisation d'algorithmes logiciels avec des intentions corrompues. Sachant avec quelle facilité les programmeurs informatiques peuvent modifier les algorithmes de recherche pour diriger les gens vers un contenu plutôt que vers d'autres ou recueillir des informations à partir de profils individuels sur les médias sociaux, les personnes ayant de mauvaises intentions s'intéressent évidemment beaucoup à la manière d'utiliser les algorithmes à leur avantage. Dans le même temps, il ne faut pas minimiser le grand potentiel de l'IA dans la lutte contre la corruption. Amnesty International peut améliorer l'efficacité des mesures prises pour lutter contre la corruption, par exemple dans le cadre d'enquêtes sur des affaires de corruption longues et complexes ou pour aider les agents chargés de la conformité à identifier les risques ou infractions de corruption. Si l'on veut que la lutte contre la corruption profite réellement du plein potentiel de l'intelligence artificielle, il faut donc mettre en place certaines garanties pour éviter toute utilisation abusive.

Lutte contre la criminalité (autre que le cybercrime)

Le Comité européen pour les problèmes criminels (CDPC) prépare actuellement un rapport sur les défis de fond en matière de droit pénal posés par les progrès de la robotique, de l'intelligence artificielle et des machines autonomes intelligentes, y compris les voitures, les drones et autres formes de robots capables de causer des dommages physiques indépendamment des opérateurs humains. Un éventuel instrument normatif traitant de cette question pourrait prendre la forme d'une convention du Conseil de l'Europe.

Lutte contre le cybercrime

Une session plénière sur les implications de l'IA pour la justice pénale a été organisée lors de la Conférence Octopus 2018. Des vidéos avec des commentaires des experts ont été publiées.

Egalité entre les femmes et les hommes

La Commission pour l'égalité des genres (GEC) a adopté un projet de Recommandation du Comité des Ministres pour prévenir et combattre le sexisme en décembre 2018. Il s'agit notamment de lignes directrices sur la manière d'éviter les risques potentiels liés à l'intégration et au renforcement des préjugés sexistes existants et d'examiner comment l'IA pourrait contribuer à combler les écarts entre les sexes et à éliminer le sexisme (voir partie II.B.7 de la Recommandation).       

Lors de sa réunion du 22 au 24 mai, le Comité exécutif mondial a également identifié l'IA et l'égalité entre les femmes et les hommes comme un thème possible pour une section thématique de son rapport annuel 2019 sur la mise en œuvre de la stratégie pour l'égalité des sexes, et comme un domaine prioritaire à étudier plus avant au cours du biennium 2020-2021.  Le GEC est particulièrement intéressé à contribuer à l'élaboration d'un cadre juridique du Conseil de l'Europe sur l'IA.

Société de l'information

Sous la supervision du Comité directeur sur les médias et la société de l'information (CDMSI), le comité d'experts sur les intermédiaires Internet (MSI-NET) a réalisé en 2017 une étude sur les dimensions droits de l'homme des techniques de traitement automatisé des données (en particulier les algorithmes) et les implications réglementaires possibles.

A titre de suivi, le Comité d'experts sur les dimensions relatives aux droits de l'homme du traitement automatisé des données et des différentes formes d'intelligence artificielle (MSI-AUT) prépare actuellement un projet de recommandation sur les incidences des systèmes algorithmiques sur les droits de l'homme. Le Comité prépare également une étude sur les incidences de l'IA sur le concept de responsabilité dans le cadre des droits de l'homme.

En février 2019, le département Société de l'information a organisé, en coopération avec le gouvernement finlandais et sous la présidence finlandaise du Comité des Ministres, une conférence de haut niveau intitulée « IA : Maîtriser les règles du jeu », qui a réuni des experts et des décideurs politiques de multiples disciplines pour discuter des impacts du développement de l'IA sur les droits de l'homme, la démocratie et l'Etat de droit, et pour explorer les options d'action coordonnée visant à garantir des contrôles et un contrôle démocratique adéquats.

Justice

La Commission européenne pour l'efficacité de la justice (CEPEJ) a adopté, le 3 décembre 2018, la première Charte éthique européenne sur l'utilisation de l'intelligence artificielle dans les systèmes judiciaires, énonçant 5 principes qui devraient guider le développement des outils d'intelligence artificielle dans les systèmes judiciaires européens. La Charte comprenait plusieurs annexes : une étude scientifique, un glossaire et un examen des différentes applications de l'IA avec des recommandations sur leur utilisation. Par ce travail, la CEPEJ entend promouvoir une utilisation responsable de l'intelligence artificielle, fondée sur le respect des droits fondamentaux et des principes éthiques et répondant aux besoins des professionnels du droit.

En 2019, des efforts seront déployés pour faire en sorte que la Charte devienne " un instrument vivant " au sein des systèmes judiciaires européens, conformément aux orientations définies dans le document CEPEJ-GT-QUAL (2019)1. La CEPEJ mènera en particulier un travail d'approfondissement des principes de la Charte et examinera la faisabilité d'une certification des outils et services d'IA, au regard des principes de la Charte. Le secrétariat de la CEPEJ est prêt à accompagner les acteurs privés et publics dans l'application des principes de la Charte.

La CEPEJ a co-organisé avec l'Administration des tribunaux de la République de Lavia une conférence sur "L'intelligence artificielle au service de la justice" à Riga, le 27 septembre 2018. La conférence a rassemblé des autorités judiciaires lettones et des représentants d'un certain nombre de pays européens et a permis de passer en revue les différentes initiatives prises pour intégrer l'intelligence artificielle dans les politiques judiciaires, ainsi que de discuter des principaux défis et opportunités qui se présentent dans ce domaine.   

Le secrétariat de la CEPEJ organisera, à la demande des États membres, des activités spécifiques pour faciliter la mise en œuvre de la Charte éthique européenne. Dans cet esprit, par exemple, le secrétariat de la CEPEJ a organisé une mission au Royaume-Uni le 14 février ; à cet égard, la CEPEJ sera auditée par la Law Society of England and Wales qui rédige actuellement un rapport sur les algorithmes dans le système judiciaire britannique.

Le Comité européen de coopération juridique (CDCJ) travaille actuellement sur les mécanismes de règlement des litiges en ligne (RLL, ODR en anglais) et prend en considération les applications possibles de l'IA dans ces systèmes et leur conformité avec le droit à un procès équitable et le droit à un recours effectif. Un groupe de rédaction composé de ses membres sera créé en 2019 pour élaborer un projet de lignes directrices à l'intention des décideurs chargés de concevoir des mécanismes de règlement des différends en ligne en vue d'assurer la compatibilité de ces mécanismes avec les articles 6 et 13 de la CEDH.