Système d'intelligence artificielle Cycle de vie des systèmes d'IA Un système basé sur des machines L'autonomie La capacité d'adaptation Les objectifs du système d'IA L’environnement ou le contexteLes données d’entrée L’inférence Les données de sortie La transparence L’explicabilité L’interprétabilité

 Système d'intelligence artificielle

« Système d'intelligence artificielle » : un système basé sur une machine qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu'il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions susceptibles d'influencer des environnements physiques ou virtuels. Les différents systèmes d'intelligence artificielle varient dans leurs niveaux d'autonomie et d'adaptabilité après déploiement[1].

Cette définition reflète une compréhension large de ce que sont les systèmes d'intelligence artificielle (systèmes IA), notamment par opposition à d'autres types de systèmes logiciels traditionnels plus simples, fondés sur des règles définies uniquement par des personnes physiques pour exécuter automatiquement des opérations[2]. Elle a été rédigée aux fins de la Convention-cadre, sur la base de la définition de l’OCDE de 2023[3], et vise à garantir la précision et la sécurité juridiques, tout en restant suffisamment abstraite et flexible pour rester valable malgré les évolutions technologiques futures. Toutefois, elle n'a pas pour but de donner une signification universelle au terme concerné[4].

Retour

Cycle de vie des systèmes d'IA

Le cycle de vie d’un système d'intelligence artificielle peut englober toute une série d’activités, en fonction du type de technologie et d'autres éléments contextuels, et évoluer dans le temps. Voici quelques exemples pertinents et non exhaustifs d'activités : (1) planification et conception, (2) collecte et traitement de données, (3) développement de systèmes d'intelligence artificielle, y compris l'élaboration de modèles et/ou l'adaptation de modèles existants à des tâches spécifiques, (4) essais, vérification et validation, (5) fourniture/mise à disposition des systèmes, (6) déploiement, (7) exploitation et surveillance, et (8) mise hors service[5]. Ces activités se déroulent souvent de manière itérative et ne sont pas nécessairement séquentielles. Elles peuvent également recommencer à zéro en cas de modifications substantielles du système ou de son utilisation prévue. La décision de mettre hors service un système d'IA peut intervenir à n'importe quel moment de la phase d'exploitation et de contrôle[6].

Retour

Un système basé sur des machines

Le terme « basé sur des machines » fait référence au fait que les systèmes d'IA sont développés avec des machines et fonctionnent sur celles-ci. Le terme « machine » peut être compris comme incluant à la fois les composants matériels et logiciels qui permettent au système d'IA de fonctionner. Les composants matériels désignent les éléments physiques de la machine, tels que les unités de traitement, la mémoire, les dispositifs de stockage, les unités de mise en réseau et les interfaces d'entrée/sortie, qui fournissent l'infrastructure nécessaire au calcul. Les composants logiciels englobent le code informatique, les instructions, les programmes, les systèmes d'exploitation et les applications qui gèrent la manière dont le matériel traite les données et exécute les tâches[7].

Retour

L'autonomie

L'autonomie d'un système d'IA désigne le degré auquel un système peut apprendre ou agir sans intervention humaine après la délégation de l'autonomie et l'automatisation des processus par les humains. La supervision humaine peut avoir lieu à n'importe quelle étape du cycle de vie du système d'IA[8]. Certains systèmes d'IA peuvent générer des résultats sans que ceux-ci soient explicitement décrits dans l'objectif du système d'IA et sans instructions spécifiques de la part d'un humain[9].

Retour

La capacité d'adaptation

La capacité d’adaptation désigne la capacité d’un système d’IA à évoluer et à modifier son comportement par une interaction directe avec les entrées et les données avant ou après son déploiement. Il s'agit par exemple d'un système de reconnaissance vocale qui s'adapte à la voix d'un individu ou d'un système de recommandation musicale personnalisé. Les systèmes d'IA peuvent être formés une seule fois, de manière périodique ou en continu, et fonctionnent en en inférant des schémas et des relations à partir des données. Grâce à cet entraînement, certains systèmes d'IA peuvent développer la capacité d'effectuer de nouvelles formes d'inférence qui n'avaient pas été initialement envisagées par leurs concepteurs[10].

Retour

Les objectifs du système d'IA

Les systèmes d'IA sont conçus pour fonctionner selon un ou plusieurs objectifs. Les objectifs du système peuvent être définis de manière explicite ou implicite. Les objectifs explicites se réfèrent à des buts clairement énoncés qui sont directement encodés par le développeur dans le système. Ils peuvent, par exemple, être formulés comme l'optimisation d'une fonction de coût, d'une probabilité ou d'une récompense cumulée. Les objectifs implicites renvoient à des buts qui ne sont pas explicitement énoncés, mais qui peuvent être déduits du comportement ou des hypothèses sous-jacentes du système. Ces objectifs peuvent découler des données d'entraînement ou de l'interaction du système d'IA avec son environnement[11].

Retour

L’environnement ou le contexte

Un environnement ou un contexte en relation avec un système d'IA est un espace observable ou partiellement observable, perçu à l'aide de données et d'entrées de capteurs et influencé par des actions (par l'intermédiaire d'actionneurs). Les environnements influencés par les systèmes d'IA peuvent être physiques ou virtuels et inclure des environnements décrivant des aspects de l'activité humaine, tels que les signaux biologiques ou le comportement humain. Les capteurs et les actionneurs sont soit des êtres humains, soit des composants de machines ou d'appareils[12].

Retour

Les données d’entrée

Les données d’entrée sont utilisées à la fois pendant le développement et après le déploiement. Les données d’entrée peuvent prendre la forme de connaissances, de règles et de codes que les humains introduisent dans le système au cours du développement ou de données. Les humains et les machines peuvent fournir des données. Au cours du développement, les données sont exploitées pour construire des systèmes d'IA, par exemple avec l'apprentissage automatique qui produit un modèle à partir de données d'apprentissage et/ou de données humaines. Les données sont également utilisées par un système en fonctionnement, par exemple pour déduire comment générer des résultats. Les données d’entrée peuvent inclure des données pertinentes pour la tâche à effectuer ou prendre la forme, par exemple, d'une invite de l'utilisateur ou d'une requête de recherche.[13

Retour

L’inférence

Le concept d’« inférence » fait généralement référence à l'étape au cours de laquelle un système génère des données de sortie à partir de ses données d’entrées, généralement après le déploiement. L'expression « déduire comment générer des données de sorties » doit être comprise comme faisant également référence à la phase de construction du système d'IA, au cours de laquelle un modèle est dérivé des entrées/données[14].

Retour

Les données de sortie

Les données de sortie reflètent généralement les différentes tâches ou fonctions exécutées par les systèmes d'IA. Elles peuvent être classés en grandes catégories : recommandations, prédictions, contenu et décisions. Ces catégories correspondent à différents niveaux d'implication humaine, les « décisions » étant le type de donnée le plus autonome (le système d'IA influence directement son environnement ou demande à une autre entité de le faire) et les « prédictions » le moins autonome. Elles comprennent, sans s'y limiter, la reconnaissance (identification et catégorisation des données, par exemple : image, vidéo, audio et texte, en classifications spécifiques, ainsi que la segmentation d'images et la détection d'objets), la détection d'événements (relier des points de données pour détecter des modèles, ainsi que des cas particuliers ou des anomalies), la prévision (utiliser les comportements passés et existants pour prédire les résultats futurs), la personnalisation (développer le profil d'un individu et apprendre et adapter ses résultats à cet individu au fil du temps), l'aide à l'interaction l’interprétation et la création de contenu pour alimenter les conversations et autres interactions entre les machines et les humains, pouvant impliquer plusieurs médias tels que la voix, le texte et les images), la génération de contenu (y compris, mais sans s’y limiter, l’optimisation axée sur les objectifs : trouver la solution optimale à un problème pour une fonction de coût ou un objectif prédéfini) et le raisonnement avec des structures de connaissances (déduire de nouveaux résultats possibles même s'ils ne sont pas présents dans les données existantes, grâce à la modélisation et à la simulation)[15].

Retour

Autres concepts techniques pertinents pour l'IA et les droits humains

La transparence

Dans le contexte de l’IA, la transparence fait référence à l'ouverture et à la clarté dans la gouvernance des activités au cours du cycle de vie des systèmes d'IA. Cela signifie que les processus décisionnels et le fonctionnement général des systèmes d'IA doivent être compréhensibles et accessibles aux acteurs appropriés de l'IA et, le cas échéant, aux parties prenantes concernées[16]. Les moyens d'assurer la transparence dépendraient de nombreux facteurs différents, tels que, par exemple, le type de système d'intelligence artificielle, le contexte de son utilisation ou son rôle, et le contexte de l'acteur concerné ou de la partie prenante affectée. En outre, les mesures pertinentes comprennent, le cas échéant, l'enregistrement d'éléments clés tels que la provenance des données, les méthodologies d’entraînement, la validité des sources de données, la documentation et la transparence sur les données d’entraînement, de test et de validation utilisées, les efforts d'atténuation des risques, ainsi que les processus et les décisions mis en œuvre, afin de faciliter une compréhension globale de la manière dont les résultats du système d'intelligence artificielle sont obtenus et ont un impact sur les droits humains, la démocratie et l'État de droit.[17]

À cette fin, l'utilisation de logiciels libres et de normes techniques interopérables devrait être encouragée pour les systèmes d'IA, dans la mesure où cela contribue à la transparence et à la vérifiabilité des systèmes, ainsi qu’à la contestabilité des résultats.[18] Les systèmes d'IA utilisés dans des contextes susceptibles d’avoir une incidence sur les droits humains, tels que les processus électoraux, devraient conserver des journaux d'audit complets et inviolables, permettant de retracer toutes les décisions et actions effectuées.[19] Ces journaux devraient être conservés conformément aux délais légaux applicables et rester accessibles aux autorités de contrôle compétentes, sous réserve de garanties appropriées en matière de protection des données.[20]

Retour

L’explicabilité

L'explicabilité est une composante particulièrement importante de la transparence. Les systèmes d'IA intégrant l’apprentissage automatique (« Machine Learning » ou « ML ») s’appuient sur des modèles mathématiques dérivés du traitement automatique des données, plutôt que sur une programmation explicite par des humains. Il est donc difficile, même pour les experts en IA, y compris les développeurs de systèmes, de comprendre comment leurs résultats sont ensuite produits[21]. L'opacité ou l’effet « boîte noire » qui en résulte rend non seulement les décisions plus difficiles à comprendre, mais elle peut également avoir un impact direct sur les individus puisqu’elle peut masquer les lacunes dans les systèmes d'IA, telles que l'existence de biais, d'inexactitudes ou de ce que l'on appelle des « hallucinations ».

L'« explicabilité » désigne donc la capacité à fournir, sous réserve de faisabilité technique et compte tenu de l'état de la technique généralement reconnu, des explications suffisamment compréhensibles sur les raisons pour lesquelles un système d'intelligence artificielle fournit des informations, produit des prédictions, des contenus, des recommandations ou des décisions, ainsi qu’une compréhension générale de ses capacités et de ses limites[22]. Il s'agit de l'idée que le résultat d'un système ou d'un algorithme automatisé peut être expliqué d'une manière qui « ait du sens » pour les personnes, permettant à celles qui ont été affectées par un résultat de le comprendre et de le contester. Cela comprend la fourniture, en termes clairs et simples, et de manière appropriée au contexte, des principaux facteurs pris en compte dans une décision, des facteurs déterminants et des données, de la logique ou de l'algorithme utilisés pour parvenir à une décision.[23]

Retour

L’interprétabilité

L'interprétabilité désigne la capacité à comprendre comment un système d'intelligence artificielle établit ses prédictions ou prend ses décisions ou, en d'autres termes, la mesure dans laquelle les résultats des systèmes d'intelligence artificielle peuvent être rendus accessibles et compréhensibles tant pour les experts que pour les non-experts. Elle implique de rendre le fonctionnement interne, la logique et les processus décisionnels des systèmes d'intelligence artificielle compréhensibles et accessibles aux utilisateurs humains, y compris les développeurs, les parties prenantes et les utilisateurs finaux, ainsi qu'aux personnes concernées[24].