Comment les organismes de promotion de l’égalité peuvent-ils déterminer si un système algorithmique ou d’intelligence artificielle (IA) a contribué à la discrimination – et quelles mesures prendre pour y remédier ? Comment les administrations publiques peuvent-elles veiller à ce que le développement et l’utilisation de l’IA aillent de pair avec la garantie effective de l’égalité et de la non-discrimination ? La Méthodologie européenne d’évaluation de la discrimination algorithmique qui vient d’être publiée traduit les normes et l’expertise juridique et technique en une approche pratique, étape par étape, à l’intention des praticien·nes. Elle vise à apporter des réponses.
Cette nouvelle publication, rédigée par Louise Hooper, Ylja Remmits et Ioanna Papageorgiou, est un outil destiné à aider les organismes de promotion de l’égalité et d’autres acteurs à identifier les systèmes algorithmiques susceptibles d’être impliqués dans une affaire, à collecter les informations nécessaires pour identifier une éventuelle discrimination et à les évaluer d’un point de vue juridique et technique. Cela permettra aussi d’identifier les solutions possibles lorsqu’une discrimination est constatée.
Une coopération à l’échelle du continent
La technique d’évaluation a été présentée aujourd’hui lors de l’événement de clôture du projet de l’instrument d’appui technique intitulé « Défense de l’égalité et de la non-discrimination par les organismes de promotion de l’égalité concernant l’utilisation de l’intelligence artificielle (IA) dans les administrations publiques », cofinancé par l’Union européenne et mis en œuvre par le Conseil de l’Europe, en coopération avec la Commission européenne.
Pendant deux ans, des organismes de promotion de l’égalité de trois pays européens (Unia en Belgique, le Médiateur contre les discriminations en Finlande et la Commission pour la citoyenneté et l’égalité de genre au Portugal) ont collaboré avec les expert·es du projet. L’objectif était de mettre au point des outils et des pratiques destinés à aider les administrations publiques de toute l’Europe à s’adapter au cadre réglementaire européen, qui évolue rapidement. La méthodologie d’évaluation publiée aujourd’hui est la dernière publication en date du projet ; elle est disponible en anglais, néerlandais, français, suédois, finlandais et portugais.
