Discours délivré à l'occasion de l'événement parallèle : La numérisation des systèmes de protection sociale en Europe - promesse d'efficacité et réalité de l'exclusion Conférence de haut niveau sur les droits sociaux, Chișinău, République de Moldova
Cette semaine, nous allons nous intéresser à la Charte des droits sociaux. Nous allons envisager les questions sociales sous l'angle des droits humains, qui entraînent des obligations contraignantes pour les États.
C'est évidemment une bonne chose, mais notre réflexion restera un exercice un peu vain si nous n'accordons pas la même attention à la mise en œuvre de ces droits. Comment faire en sorte que le beau principe inscrit sur le papier ait des effets sur l'expérience vécue par l'être humain ? Je me réjouis d'échanger avec vous sur ce point. En effet, c'est notamment par l'intermédiaire des systèmes de protection sociale que peuvent être mises en œuvre les obligations en matière de droits humains qui sont énoncées dans les textes.
Comment les systèmes de protection sociale contribuent-ils à cette mise en œuvre ? En assurant la prestation de services, bien sûr. Il y a un droit humain à jouir du meilleur état de santé possible. Il y a un droit humain à recevoir des allocations en cas de chômage. Il y a des droits humains très variés dans le domaine social. Les systèmes de protection sociale contribuent à la réalisation de ces droits sociaux, mais leur rôle est loin de se limiter à cela. Ils permettent aux titulaires des droits de jouir de tous les aspects des droits humains, c'est-à-dire non seulement des droits sociaux, mais aussi des droits civils, par exemple.
Dans ce contexte, je me réjouis de la transition numérique des systèmes de protection sociale.
Nous constatons déjà les avantages que peut présenter l'IA, du moins pour certaines tâches : l’IA permet d’améliorer l'assistance à la clientèle, d’automatiser des services d'appui ou de détecter des fraudes, par exemple. Dans une étude très intéressante réalisée l'année dernière, l'OCDE a recensé d'autres avantages que pourrait présenter la transition numérique de la protection sociale. Ainsi, elle pourrait permettre d’améliorer l'analyse prédictive (pour prévoir l'évolution de la demande et se préparer aux crises), mais aussi d’améliorer l'identification des allocataires, de toucher un public plus large et de réduire le non-recours aux services de protection sociale.
Mais, bien entendu, la transition numérique ne présente pas que des avantages pour les systèmes de protection sociale ; c'est aussi une entreprise très dangereuse. Ceux d'autres nous qui viennent d'un pays de l'UE ont été mis en garde contre ce danger, puisque, dans le règlement de l'UE sur l'IA, les algorithmes utilisés en matière de protection sociale sont considérés comme étant « à haut risque ».
Le risque élevé présenté par ces algorithmes et par la transition numérique de la protection sociale a été bien illustré dans la célèbre « affaire des allocations familiales » aux Pays-Bas. Souvenez-vous, cette affaire avait déclenché un scandale d’une telle ampleur qu’il avait entraîné la chute du gouvernement.
Nous observons de nombreux autres exemples de problèmes générés par la numérisation de la protection sociale dans toute l'Europe, dans des pays comme la Serbie, la France ou le Danemark.
Il ressort des enseignements tirés de ces cas et de recherches empiriques récentes que les risques liés à la numérisation de la protection sociale peuvent être classés en cinq grandes catégories.
Les risques de la première catégorie sont liés aux raisons qui motivent le passage au numérique. Les études empiriques, qui s'appuient sur des enquêtes réalisées auprès de personnes qui utilisent ou qui déploient les solutions technologiques, montrent clairement que le but principal n'est pas d'améliorer la qualité du service, mais de gagner en rapidité et en efficacité. La rapidité et l’efficacité n’ont rien de rédhibitoire, mais, lorsqu'elles sont privilégiées au détriment de la qualité, on voit bien le danger.
Deuxièmement, la technologie peut produire des résultats discriminatoires, comme l'illustrent les exemples que j'ai mentionnés. Ces dernières années, il est apparu beaucoup plus clairement que, sous l'effet des boucles de rétroaction, les résultats discriminatoires peuvent s'aggraver au fil du temps.
Troisièmement, des recherches en psychologie très intéressantes, menées tout récemment, ont mis en évidence le « biais d'automatisation ». C’est le phénomène par lequel l’être humain qui supervise la technologie a tendance à considérer que la technologie est plus fiable que l’être humain. Par conséquent, en cas de contradiction entre l’évaluation faite par un être humain et l’évaluation faite par une machine, l’être humain privilégie cette dernière.
Quatrièmement, l’accès aux services dématérialisés peut être difficile, en raison de l’ampleur de l’illectronisme dans nos sociétés. En 2023, à l'occasion de l'une de ses enquêtes à grande échelle, l'Agence des droits fondamentaux a en effet constaté que, chez les plus de 65 ans, seule une personne sur quatre possédait des compétences minimales en matière d'utilisation des ressources numériques. Vu cette faible proportion, il est évidemment irréaliste d’attendre des gens qu’ils fassent leurs démarches en ligne. D’ailleurs, je parle des personnes âgées, mais il y a aussi nombre de personnes marginalisées pour qui un service qui est dématérialisé devient inaccessible. Je pense, par exemple, aux Roms qui vivent dans des campements non autorisés, où ils n'ont même pas l'électricité, et donc aucun accès aux services numériques.
La cinquième et dernière catégorie de risques liés à la numérisation de la protection sociale englobe les risques imputables à l'opacité qui entoure la mise en œuvre de la transition numérique. La plupart des gens ne savent pas dans quelle mesure leurs droits à la protection sociale ont été transférés en ligne, ni quels éléments de la procédure d'évaluation de leur situation ont été transférés en ligne. Les gouvernements n'ont pas suffisamment informé leurs populations sur l'ampleur de l'automatisation de ces services essentiels. Cela entrave considérablement l’accès aux voies de recours en cas de problème. En effet, comment exercer un recours si l'on ne sait pas comment et où l'erreur a été commise ?
Comment atténuer les risques appartenant à ces cinq catégories et comment veiller à ce que les systèmes de protection sociale numérisés soient réellement au service de nos populations ? Ici encore, je me contenterai de faire quelques suggestions.
La première s’adresse aux personnes qui viennent de l’UE, et notamment à celles qui représentent les gouvernements d’États membres de l’UE.
Je vous encourage à défendre la législation européenne fondamentale qui régit l'espace numérique. Je fais ici référence au règlement sur l'IA et au règlement sur les services numériques. Ces instruments ne sont pas parfaits, mais ils constituent probablement les meilleurs modèles au monde pour superviser le déploiement de l'intelligence artificielle et de tous les aspects connexes de la numérisation, y compris dans le domaine de la protection sociale. Vous qui représentez des gouvernements de l'UE, je vous en prie, faites passer le message. Actuellement est mené un exercice de « simplification » qui, si toutes les propositions étaient adoptées, affaiblirait en définitive ces deux instruments essentiels.
Deuxième suggestion : nos gouvernements devraient prendre les dispositions nécessaires pour signer et ratifier la Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle. Elle a été négligée. Elle n'a pas recueilli suffisamment de signatures et de ratifications. Or, ce n'est qu'une fois qu'elle sera en vigueur que nous disposerons de l'outil normatif grâce auquel nous pourrons travailler avec les États membres du Conseil de l'Europe pour mettre en place des systèmes de contrôle nationaux efficaces fondés sur les droits humains, y compris en matière de protection sociale.
Troisième suggestion : nos États devraient se doter d'outils qui leur permettent d'évaluer les algorithmes utilisés pour la prestation des services de protection sociale et de déterminer ainsi si ces algorithmes sont compatibles avec les normes des droits humains.
Je tiens à mentionner ici l’excellent outil proposé par le Conseil de l'Europe : HUDERIA, une méthodologie pour l’évaluation des risques et des impacts des systèmes d’IA du point de vue des droits humains. À mon avis, cet outil s’adapte très bien aux caractéristiques de nos contextes nationaux.
Permettez-moi d’ajouter encore quelques suggestions. Nous devrions veiller à ce que les êtres humains restent aux commandes, nous garder de déléguer la prise de décisions à la machine, et traiter le problème du « biais d'automatisation ». Il s'agit de former les personnes qui supervisent les outils technologiques, de manière à ce qu'elles aient conscience d'être probablement plus intelligentes que l'application numérique et de devoir donc la surveiller de très près.
Bien entendu, il est également nécessaire d'investir dans la formation à la maîtrise du numérique et d'améliorer l'accès effectif à l'espace numérique, notamment pour les personnes âgées ou marginalisées.
Je tiens encore à mentionner deux acteurs essentiels.
Je veux parler des institutions nationales des droits humains et des organisations de la société civile, qui doivent être invitées à jouer un rôle central dans nos travaux.
Commençons par les institutions nationales des droits humains. Ces dernières années, elles se sont mises très rapidement à assumer leur responsabilité dans le contexte de l’intelligence artificielle, dans toute l’Europe. Ce faisant, elles mettent à profit leur expérience approfondie en matière de droits humains. Nous devons veiller à ce qu'elles soient dûment consultées et pleinement associées aux travaux.
Le second acteur est la société civile. Combien de fois la société civile nous a-t-elle déjà mis en garde contre les dangers de la technologie ? Et combien de fois des solutions ont-elles été trouvées par la société civile, et non pas par les gouvernements ? Nous devons établir de solides partenariats avec les organisations de la société civile.
Et mon tout dernier point, chers amis, concerne la confiance. La prestation de services de protection sociale sûrs et efficaces constitue l'une des dimensions les plus sensibles et les plus importantes de la gouvernance, dans chacun de nos pays. Pour bien fonctionner, un système de protection sociale a besoin de la confiance de la population. Nous avons vu que la situation peut se dégrader très rapidement. Je voudrais vous inviter à réfléchir à la manière dont vous pouvez établir et renforcer la confiance entre le système de protection sociale et la population. Il s'agit notamment de collaborer étroitement avec la société civile et avec les institutions nationales des droits humains et d'assurer un maximum de transparence, en accordant la plus large place possible à la consultation.
Je vous remercie de votre attention.