Maîtriser les règles du jeu – l’impact du développement de l’intelligence artificielle sur les droits de l’homme, la démocratie et l’État de droit

26-27 février 2019, Helsinki

CONCLUSIONS

Les technologies de traitement de l’information et les outils d’apprentissage machine permettent de rationaliser les services et de réaliser des gains d’efficacité considérables tant dans l’exécution des tâches que dans les performances des systèmes dans un large éventail de domaines publics et privés. A l’heure où les nouveaux outils utilisés pour communiquer, s’informer, s’éduquer, se divertir, effectuer des transactions commerciales – ou pour quantité d’autres actes du quotidien – transforment les sociétés en profondeur, un nombre croissant de personnes bénéficient des multiples avantages offerts par l’intelligence artificielle (IA).

Le progrès technologique peut favoriser le développement humain et contribuer à créer les conditions optimales pour l’exercice des droits de l’homme. Pour autant, il convient de prendre en compte les implications plus larges de son utilisation et des abus auxquels il pourrait éventuellement donner lieu pour les valeurs fondamentales des sociétés démocratiques, en particulier l’égalité et l’équité.

Les orientations ci-après, visant à montrer la voie à suivre pour que les progrès de l’IA s’accomplissent sans risque et dans l’intérêt de tous, s’appuient sur le débat ouvert, inclusif, interdisciplinaire et multipartite qui a été mené pendant la conférence :

1. L’IA a des incidences positives et négatives sur l’exercice des droits de l’homme, le fonctionnement des sociétés démocratiques et l’État de droit. Ces questions nécessitent des réponses politiques opportunes et réfléchies et doivent être placées au premier rang des préoccupations politiques des gouvernements.

2. L’IA présente un fort potentiel de croissance économique et d’innovation. Ces objectifs sont essentiellement ancrés dans les valeurs communes des sociétés démocratiques. Les bénéfices économiques offerts par l’IA ne peuvent se concrétiser sans le plein respect de ces valeurs.

3. L’IA a une incidence sur tous les aspects de la vie humaine, de façon globale et transversale. Tous les États et groupes de parties prenantes sont par conséquent invités à coordonner leurs efforts et notamment à échanger des informations et des bonnes pratiques ainsi qu’à travailler de manière proactive en synergie les uns avec les autres.

4. Les aspects humains doivent être au centre du développement de l’IA afin qu’elle profite aux individus et aux sociétés. Il conviendrait d’intégrer tout au long du cycle de développement des évaluations transparentes et responsables pour déterminer l’opportunité de son application dans un contexte donné ainsi que les avantages et les risques qu’elle présente.

5. Il est important d’approfondir notre compréhension de l’IA et de ses incidences sur les droits de l’homme, la démocratie et l’État de droit. Cela nécessite d’investir dans des études interdisciplinaires et indépendantes de ses effets directs et indirects sur les individus et les sociétés dans des contextes concrets.

6. Des mécanismes de surveillance effectifs et des structures de contrôle démocratiques doivent être mis en place pour tout ce qui touche à la conception, au développement et au déploiement des systèmes d’IA.

7. Un processus démocratique fonctionne si la population est informée de manière indépendante et si l’on encourage des débats ouverts et inclusifs. Il convient de la sensibiliser davantage aux risques et aux bénéfices potentiels de l’IA et de développer les nouvelles compétences nécessaires. Il faut en outre stimuler la confiance du public dans l’environnement de l’information et les applications de l’IA.

8. Les droits de l’homme sont la valeur fondamentale des sociétés démocratiques ; leur protection et leur promotion appellent un engagement actif de tous les acteurs, en accordant une attention particulière aux besoins des groupes vulnérables susceptibles d’être marginalisés. Des mécanismes effectifs et légitimes sont nécessaires pour prévenir les violations des droits de l’homme et lutter contre la discrimination, les inégalités et les préjugés.

9. La conception, le développement et le déploiement des outils d’IA doivent donner lieu à des évaluations des risques conformes aux principes applicables. Tous les processus automatisés devraient être conçus de manière à pouvoir être contrôlés par un évaluateur humain. Il convient de mettre en place des voies de recours effectives en cas d’allégations de violation des droits de l’homme, que l’entité compétente appartienne au secteur public ou privé. La transparence des algorithmes est essentielle pour établir un climat de confiance et garantir le respect des droits de chacun.

10. Les calculs algorithmiques ne devraient pas porter atteinte au principe de l’égalité devant la loi. Les outils d’IA peuvent appuyer le travail de juges qualifiés, mais les lois et les systèmes juridiques des sociétés démocratiques doivent, dans le fond et dans la forme, rester soumis à l’autorité de l’être humain.

11. Les instruments internationaux de référence existants, notamment la Déclaration universelle des droits de l’homme et la Convention européenne de sauvegarde des droits de l’homme et des libertés fondamentales, s’appliquent indépendamment des changements contextuels dus à l’IA et doivent être respectés pour garantir que le progrès technologique s’accomplisse en conformité avec les principes des droits de l’homme, de la démocratie et de l’État de droit. Les lignes directrices en matière d’éthique et l’autorégulation constituent des outils supplémentaires pour promouvoir ces valeurs.

12. L’ensemble des acteurs concernés devraient entreprendre une réflexion et une étude sur la question de l’incidence de l’IA sur les droits de l’homme, la démocratie et l’État de droit. Le Conseil de l’Europe, dans le cadre d’une démarche multipartite, devrait continuer à élaborer des recommandations, des lignes directrices et des codes de conduite par secteur pour défendre les droits de l’homme et assurer la viabilité des institutions et des processus démocratiques. Il devrait surveiller les effets de l’IA sur les fondations communes des sociétés démocratiques, continuer à identifier les lacunes éventuelles dans l’applicabilité et le caractère exécutoire des cadres réglementaires en vigueur et, sur cette base, évaluer la nécessité d’adopter des mesures supplémentaires pour veiller à ce que la conception, le développement et le déploiement des systèmes d’IA soient conformes aux droits de l’homme.