Le développement et l'utilisation de systèmes d'IA dans le domaine de l'application de la loi et de la sécurité publique pourrait présenter des risques particuliers pour les droits humains. En effet, les décisions qui pourraient être prises sur la base des résultats des systèmes d'IA, telles que la surveillance, les perquisitions et les saisies, ou les arrestations et les détentions, ont un fort impact sur les droits humains. L'utilisation de systèmes d'IA dans ce secteur peut interférer avec les articles 5 (droit à la liberté et à la sécurité), 8 (droit au respect de la vie privée et familiale), 10 (liberté d'expression) et 11 (liberté de réunion et d'association) de la CEDH, ainsi que l'article 2 du protocole n° 4 à la CEDH (liberté de circulation). [1] Les États peuvent justifier l'ingérence dans les articles 8, 10 et 11 de la CEDH par les buts légitimes énumérés dans le texte de ces articles, notamment la sécurité nationale, la sûreté publique ou la défense de l'ordre et la prévention des infractions pénales.

 

Le droit à la liberté et à la sécurité

Les systèmes de police prédictive font des estimations et des prédictions qui peuvent être transformées en actions ou décisions concrètes par le système de justice pénale, y compris en matière d'arrestation et de détention. En raison des décisions qui pourraient être prises sur la base des résultats de ces systèmes, des questions relatives à l'article 5 de la CEDH (droit à la liberté et à la sûreté) peuvent se poser. Les décisions d'arrestation ou de détention doivent être fondées sur des soupçons raisonnables, vérifiables et objectifs directement liés à une activité criminelle.[2] Si les informations fournies par les systèmes de police prédictive sont utilisées pour corroborer les soupçons raisonnables justifiant une décision d'arrestation ou de détention, les questions d'explicabilité et d'interprétabilité (le « problème de la boîte noire ») concernant les systèmes d'IA peuvent poser des difficultés pour satisfaire aux critères requis de vérifiabilité et d'objectivité. Les méthodes de police prédictive ne doivent pas conduire à des décisions illégales de privation de liberté. Ces opérations menées par les autorités publiques doivent donc être légales, nécessaires et proportionnées aux objectifs poursuivis et se fonder sur un droit interne clair, prévisible et accessible, poursuivant un but légitime tout en assurant des garanties adéquates.[3]

 

[1] Applicable aux États qui ont ratifié le présent Protocole.

[2] Akgün c. Turquie, No. 19699/18, 20 juillet 2021, §§ 156 et 175.

[3] Voir également l'article 5, point d), de la loi européenne sur l'IA, qui concerne l'utilisation des systèmes d'IA dans le domaine de l’application de la loi.