Retour à l'Administration de la justice

Les principes identifiés dans la Convention-cadre Convention-cadre (articles 4 à 13). et la Charte éthique européenne sur l’utilisation de l’intelligence artificielle correspondent à des préoccupations importantes et réelles concernant l'utilisation de l'IA dans l'administration de la justice et ses éventuelles répercussions négatives sur les droits humains protégés par la CEDH et la convention 108(+). Les principes de la Charte éthique européenne sur l'utilisation de l’intelligence artificielle comprennent le respect des droits fondamentaux, la non-discrimination, la qualité et la sécurité de l'IA, la transparence, l'impartialité et l'équité, ainsi que le principe du « contrôle par l'utilisateur » Le principe du « contrôle par l'utilisateur » exclut toute approche normative et garantit que les utilisateurs sont des acteurs informés et maîtres de leurs choix..

Le droit humain le plus touché dans ce secteur est le droit à un procès équitable, garanti par l'article 6 de la CEDH Ainsi que d'autres instruments internationaux relatifs aux droits humains (articles 10 et 11 de la Déclaration universelle des droits de l'homme, article 14 du Pacte international relatif aux droits civils et politiques, article 47 de la Charte des droits fondamentaux de l'Union européenne, article 8 de la Convention américaine relative aux droits de l'homme - Pacte de San José, article 7 de la Charte africaine des droits de l'homme et des peuples) et dans l'ordre juridique constitutionnel des pays démocratiques.. Le droit à la liberté et à la sécurité, garanti par l'article 5 de la CEDH, est également en cause dans la mesure où il implique des règles spéciales en matière de protection judiciaire contre la privation arbitraire de liberté.

Le droit à un procès équitable 

L'article 6 de la CEDH s'applique aux procédures impliquant la détermination des droits et obligations civils ou toute accusation pénale. Le principe clé régissant l'article 6 est l'équité[1]. Comme l'a souligné la Cour, ce qui constitue un procès équitable ne peut faire l'objet d'une règle unique et constante, mais doit dépendre des circonstances de chaque affaire et à la lumière de l'équité globale de la procédure[2]. Certains principes subsidiaires d'équité sont également particulièrement pertinents dans le contexte de l'IA :

Indépendance et impartialité

L'article 6 garantit un procès équitable et public devant un tribunal indépendant et impartial établi par la loi[3]. Le tribunal doit être indépendant à la fois des autres branches du gouvernement, telles que l'exécutif et le législatif, et des parties impliquées dans l'affaire[4]. Le tribunal doit également être impartial, c'est-à-dire subjectivement libre de tout préjugé ou parti pris personnel, et doit offrir des garanties suffisantes pour exclure tout doute légitime à cet égard[5].

La partialité des systèmes d'IA peut ne pas être facilement discernable par le juge en raison de la perception généralisée de la « neutralité » algorithmique/mathématique et de la partialité technologique des juges eux-mêmes. Cela pourrait conduire à des résultats discriminatoires. Le recours intensif à l'IA pourrait conduire à une « standardisation » des décisions judiciaires, les juges se sentant obligés de suivre les recommandations de l'IA en raison de la « supériorité » perçue, en particulier dans les systèmes où leur mandat n'est pas permanent mais soumis à un vote populaire[6], ou dans lesquels leur responsabilité personnelle (disciplinaire, civile ou même pénale) est susceptible d'être engagée[7].

Retour

 Présomption d'innocence

Le principe de la présomption d'innocence dans les procédures pénales exige, entre autres, que : (i) les juges (et les jurés le cas échéant) doivent aborder leurs fonctions sans aucune idée préconçue de la culpabilité de l'accusé ; (ii) la charge de la preuve incombe à l'accusation, et (iii) tout doute doit profiter à l'accusé[8].

En raison du biais algorithmique, l'inclusion potentielle dans les systèmes d'IA de variables telles que les antécédents criminels et familiaux signifie que le sort d'une personne peut être affecté par le comportement passé d'un certain groupe sans qu'une attention appropriée soit accordée aux antécédents spécifiques de la personne accusée, à ses motivations et, en fin de compte, à sa culpabilité. Cela pourrait avoir pour conséquence d'interférer avec le droit d'une personne à être présumée innocente jusqu'à ce que sa culpabilité soit prouvée par un tribunal. Si l'utilisation d'outils prédictifs par les juges dans les procès pénaux est très rare en Europe[9], il existe dans d'autres juridictions des exemples concrets d'effets négatifs[10].

Retour

 L'égalité des armes et procédure contradictoire

L'égalité des armes est une caractéristique inhérente à un procès équitable. Elle exige que chaque partie ait une possibilité raisonnable de présenter sa cause dans des conditions qui ne la placent pas dans une situation désavantageuse par rapport à son adversaire et s'applique aux procédures pénales et civiles[11]. Dans un contexte pénal, le droit à une procédure contradictoire signifie que l'accusé a la possibilité de prendre connaissance et de commenter toutes les preuves produites ou observations déposées en vue d'influencer la décision du tribunal, leur existence, leur contenu et leur authenticité sous une forme et dans un délai approprié[12]. Le fait de ne pas communiquer à la défense des éléments de preuve matériels susceptibles de permettre à l'accusé de se disculper ou d'obtenir une réduction de sa peine constituerait un refus des moyens nécessaires à la préparation de la défense, et constituerait donc une violation de l'Article 6.[13] Le droit à un procès contradictoire ne peut être ignoré dans le but de gagner du temps ou d'accélérer la procédure[14].

Dans le contexte de l'utilisation des systèmes d'IA, l'égalité des armes implique que, dans chaque cas, la partie doit être consciente du rôle du système dans la procédure, des critères de son fonctionnement et de son impact éventuel sur l'issue de l'affaire. Des problèmes peuvent se poser si une partie se voit refuser un accès suffisant pour examiner les données analysées par l'IA et utilisées comme éléments de preuve[15]. Le droit à une procédure contradictoire exigera probablement la possibilité de contester la validité scientifique, les préjugés et les erreurs potentielles d’un système d’IA. Cependant, les droits de propriété intellectuelle et les lois sur les secrets commerciaux peuvent restreindre l'accès aux systèmes d'IA privés utilisés par les autorités chargées de l'application de la loi. Même sans ces obstacles, la complexité des modèles utilisés (« le problème de la boîte noire » peut constituer un défi majeur pour le défendeur. En outre, si les systèmes d'IA peuvent accélérer les procédures en permettant de gagner du temps, le droit à une procédure contradictoire ne peut être négligé à cette fin.

Dans les procédures civiles, l'égalité des armes pourrait être compromise par un éventuel déséquilibre entre les parties au litige dans leur compréhension et leur capacité à utiliser les outils d'IA, en fonction de leurs moyens disponibles, y compris financiers, ou même de leur niveau de culture numérique. Dans ce contexte, la Recommandation CM/Rec(2016)3 du Comité des Ministres aux États membres sur les droits de l'homme et les entreprises souligne que lorsque des victimes présumées de violations des droits humains liées aux entreprises intentent des actions civiles contre des entreprises pour de telles violations, les États membres devraient veiller à ce que leurs systèmes juridiques garantissent suffisamment l'égalité des armes au sens de l'article 6 de la CEDH. En particulier, ils devraient prévoir dans leurs systèmes juridiques des régimes d'aide juridique pour les plaintes concernant de telles violations. Cette aide juridique devrait pouvoir être obtenue de manière pratique et efficace.[16] Dans ce contexte, les outils d'IA pourraient également être développés pour fournir des informations juridiques et de l'assistance, et pourraient faciliter la recherche de protection des droits humains par les utilisateurs. Cependant, des mesures de sécurité appropriées devraient être mises en place lors de la conception de tels dispositifs.

Retour

 Accès aux tribunaux

Le droit d'accès à un tribunal est un aspect inhérent aux garanties consacrées par l'article 6, et n'est pas plus absolu en matière pénale qu'en matière civile. Toute personne a le droit de porter devant une cour ou un tribunal toute réclamation relative à ses « droits et obligations de caractère civil »[17]. Un individu doit avoir une possibilité claire et pratique de contester un acte qui constitue une ingérence dans ses droits[18]. La nature pratique et effective de ce droit peut être altérée, par exemple, par une interprétation excessivement formaliste des règles de procédure.

Dans ce contexte, le recours à des systèmes d'IA ne devrait pas entraver le droit d'accès à un tribunal au sens de l'article 6[19] ; le contrôle humain sur la prise de décision devrait être assuré[20]. L'accès au tribunal ne devrait pas non plus être entravé par des obstacles techniques liés à un système d'IA spécifique. À cet égard, en ne tenant pas compte des obstacles pratiques liés à l'utilisation obligatoire d'un système de dépôt électronique et en n'autorisant pas le dépôt alternatif (sur papier), une juridiction nationale peut adopter une approche excessivement formaliste qui équivaut à une violation de l'article 6§1[21].

Droit à la liberté et à la sûreté

Le principal objectif de l'article 5 est d'empêcher les privations de liberté illégales, arbitraires ou injustifiées[1]. Pour satisfaire à l'exigence de légalité, la privation de liberté doit être conforme à une procédure prévue par la loi et soumise à un contrôle de sa légalité par un tribunal. Si les défauts d'un ordre de détention ne rendent pas automatiquement la détention illégale[2], le raisonnement qui sous-tend la décision ordonnant la détention d'une personne est un facteur pertinent pour déterminer si la détention doit être considérée comme arbitraire au sens de l’article 5, paragraphe 1[3].

La privation de liberté est également illégale au sens de l'article 5 si elle résulte d'une condamnation prononcée à l'issue d'une procédure « manifestement contraire aux dispositions de l'article 6 ou aux principes qui y sont consacrés », au point de constituer un « déni de justice flagrant ».[4] Un procès sommaire qui ne permet pas une évaluation approfondie et objective du cas d'une personne qui est ensuite condamnée à une peine d'emprisonnement pourrait donc constituer une violation non seulement de l'article 6, mais aussi de l'article 5 de la CEDH[5].

Les questions soulevées au titre de l'article 6 (voir ci-dessus) s'appliquent également aux garanties judiciaires contre la détention arbitraire énoncées à l'article 5, paragraphes 3 et 4, qui prévoient respectivement que les détenus pénaux doivent être rapidement déférés devant un juge et que toute personne peut contester la légalité de sa détention devant un tribunal. Le manque de transparence ou de responsabilité des systèmes d'IA potentiels pourrait compromettre l'équité des décisions en matière de privation de liberté. Ils risquent de perpétuer les préjugés, ce qui pourrait conduire à des détentions provisoires injustes, à des condamnations disproportionnées ou à des refus injustes de libération conditionnelle. En outre, leur opacité compromet la capacité des individus à contester efficacement les décisions, ce qui soulève des questions quant à l'équité et à la responsabilité.

Retour à l'Administration de la justice