Comme indiqué dans la section consacrée aux questions fondamentales relatives aux droits humains dans les différents secteurs de la gouvernance publique, la CEDH et la CSE interdisent la discrimination.[1] En vertu de l'article 3 de la convention d'Oviedo, les États parties sont tenus de prendre les mesures appropriées en vue d'assurer, dans les limites de leur juridiction, un accès équitable à des soins de santé de qualité appropriée[2].

Les biais dans les données utilisées pour développer et entraîner les systèmes d'IA peuvent fausser l'évaluation des besoins de santé et des traitements des patients. Il est à noter que les modèles d'IA formés principalement à partir de données provenant de populations spécifiques peuvent poser des diagnostics erronés ou sous-estimer la gravité de la maladie dans les groupes sous-représentés tels que les femmes et les filles, les personnes appartenant à des minorités ethniques, les populations autochtones, les personnes âgées ou les personnes en situation de handicap[3]. On peut citer comme exemples les systèmes de hiérarchisation des greffes de rein, où des données historiques biaisées ont faussé les résultats au détriment de certains patients.[4] De même, une représentation inadéquate dans les ensembles de données de formation a conduit à des diagnostics erronés d'affections cutanées[5]. En outre, on craint que l'accès aux avantages offerts par l'IA dans le domaine des soins de santé ne soit pas également disponible pour tous. Le déploiement de ces soins peut être inégal sur le plan géographique dans un pays donné, ou dépendre des moyens financiers des patients[6]. Le manque d'accessibilité des applications d'IA peut exclure les personnes âgées ou les personnes en situation de handicap. Les États devraient adopter des mesures visant à garantir que les systèmes d'IA soient développés et déployés de manière équitable.

 

[2] Voir également les articles 15 §1(b) et 2§2 du Pacte international relatif aux droits économiques, sociaux et culturels (PIDESC) sur le droit de toute personne de bénéficier des progrès scientifiques et de leurs applications, sans discrimination d'aucune sorte.

[3] Voir par exemple le rapport du CDBIO, p. 26 ; voir également OMS, Ethics and governance of artificial intelligence for health (2021), pp. 54-57, en anglais uniquement. En outre, sur la sous-représentation et la faible qualité des données des femmes, ainsi que des personnes de divers genres dans la recherche scientifique, l'étude GEC/CDADI, p. 25. Également (p. 26) sur la discrimination structurelle intégrée dans les systèmes d'IA à l'égard des patients systématiquement défavorisés issus de minorités ethniques. Voir également de l'OMS : Ageism in artificial intelligence for health (2022, en anglais uniquement), qui montre que les systèmes algorithmiques utilisés dans le secteur de la santé sont entraînés sur les données de populations majoritairement jeunes, ce qui entraîne des performances disproportionnellement plus faibles de ces systèmes pour les patients plus âgés, y compris des diagnostics erronés.

[6] Rapport CDBIO, p. 26. Concernant la discussion sur la possibilité que la fracture numérique existante (y compris en ce qui concerne l'IA) et les inégalités (au sein des pays et entre eux, ainsi qu'entre les groupes sociaux) exacerbent la répartition inégale des soins de santé et les problèmes d'accès effectif aux soins de santé, voir la recommandation PACE 2185 (2020), Intelligence artificielle et santé : défis médicaux, juridiques et éthiques à venir. Une préoccupation supplémentaire pourrait être liée à l'utilisation de l'IA pour l'allocation des ressources et la hiérarchisation des cas.