L'utilisation de l'IA dans les services sociaux implique le traitement de données personnelles sensibles, ce qui soulève de sérieuses préoccupations en matière de respect de la vie privée au titre de l'article 8 de la CEDH. L'agrégation de données sensibles, telles que les dossiers médicaux, les antécédents financiers et professionnels et d'autres détails personnels, qui permet à l'État d'acquérir un profil détaillé des aspects les plus intimes de la vie des citoyens, peut entraîner une ingérence particulièrement envahissante dans la vie privée[1].

Par exemple, des préoccupations liées au respect de l'article 8 de la CEDH ont été soulevées dans l'affaire « SyRi », où le tribunal de district de La Haye a estimé qu'un algorithme utilisé pour identifier les fraudes potentielles à l'aide sociale (le ‘Systeem Risico Indicatie’ ou ‘SyRi’) et la législation correspondante ne répondaient pas aux exigences de nécessité et de proportionnalité requises par l'article 8, paragraphe 2, de la CEDH[2].

Un risque supplémentaire est l'utilisation abusive des données personnelles collectées dans les services sociaux, y compris la surveillance non autorisée, le profilage sans consentement, ou les violations accidentelles. L'implication des entreprises dans le développement ou la maintenance des systèmes d'IA ou l'externalisation des services sociaux auprès d'entreprises privées suscitent également des inquiétudes Étant donné que les systèmes d'IA stockent de grandes quantités de données sensibles, il convient d'accorder une importance particulière à la sécurité des données, y compris lorsqu'un système d'IA particulier est développé et entretenu par des fournisseurs tiers (privés).

 

[1] Szabó et Vissy c. Hongrie, No. 37138/146, 12 janvier 2016, § 70.

[2] The Hague District Court, NCJM et al. and FNV v The State of the Netherlands, 6 mars 2020, disponible en anglais (ECLI:NL:RBDHA:2020:865). Il s'agit du ‘Systeem Risico Indicatie’ ou ‘SyRi’. Voir également le mémoire d'amicus curiae présenté par le Rapporteur spécial des Nations Unies sur l'extrême pauvreté et les droits humains, qui souligne en particulier l'effet discriminatoire et stigmatisant du SyRi (en anglais uniquement).