Le Commissaire aux droits de l’homme du Conseil de l’Europe, Michael O’Flaherty, a publié ses « Notes du président » sur la gouvernance de l’IA à la suite d’une consultation avec des organisations de la société civile.
Au cours de cette consultation, qui s’est tenue les 6 et 7 novembre 2025, les participants ont tiré la sonnette d’alarme concernant la simplification des règles relatives à l’IA et ont averti que l’intensification du lobbying de l’industrie technologique, conjuguée à une grave crise de financement de la société civile, créait un dangereux déséquilibre qui menace la protection des droits humains dans le domaine de l’IA.
Dans le rapport issu de la consultation, intitulé « Réglementer l’IA générative : combler les lacunes pour protéger les droits humains », le Commissaire souligne les risques découlant d’une volonté marquée d’alléger la réglementation au nom de la compétitivité.
« Si cette question n’est pas traitée avec prudence, elle risque d’envoyer un message désastreux selon lequel les droits humains passent après la déréglementation », a déclaré le Commissaire. « La simplification ne doit pas signifier la suppression des garanties ».
Le rapport identifie des lacunes critiques dans le cadre réglementaire européen actuel, notamment en ce qui concerne le déploiement de l'IA générative. Parmi les principales conclusions :
- Les systèmes automatisés, en particulier dans les domaines de la sécurité et de l’armée, doivent faire l’objet d’un contrôle humain effectif en raison du risque élevé qu’ils font peser sur les droits humains.
- La désinformation générée par l’IA envahit et dégrade les environnements informationnels, avec des conséquences particulièrement néfastes pour les enfants, les migrants, les femmes et les personnes LGBTI.
- Le passage à des modèles de consentement par défaut (opt-in) garantirait un meilleur contrôle des utilisateurs sur leurs données personnelles. Dans ce contexte, le rapport met en garde contre les mises à jour des politiques en la matière qui intègrent l’IA dans des produits existants sans le consentement explicite des utilisateurs.
- Les impacts environnementaux et sociétaux de l’IA devraient faire partie intégrante des discussions politiques.
- Les autorités sont instamment invitées à rendre obligatoire la sécurité dès la conception pour tous les produits d’IA utilisés par les enfants et à interdire les utilisations de l’IA qui comportent un risque grave de violation des droits humains.
« Des millions sont dépensés pour promouvoir la déréglementation, tandis que les organisations chargées de protéger l’intérêt public voient leurs financements réduits. L’application cohérente des instruments réglementaires existants, tels que le RGPD, la DSA et la loi européenne sur l’IA, ne doit pas être considérée comme un fardeau : c’est une condition préalable à la confiance dans notre société de plus en plus numérique », a déclaré le Commissaire.
Recommandations d’action
Le rapport identifie quatre domaines d’action clés :
- Garantir une participation significative et financée de la société civile au processus décisionnel en matière d’IA afin d’assurer un système de freins et contrepoids.
- Accorder aux chercheurs indépendants, aux journalistes et aux organisations de la société civile l’accès aux données utilisées par les systèmes d’IA et renforcer la transparence dans les marchés publics.
- Financer de manière adéquate les structures nationales des droits humains et les autorités de contrôle afin de s’adapter à l’ampleur technique de l’IA et de garantir l’application des réglementations numériques existantes de l’UE.
- Accroître les investissements dans la culture numérique et le respect des droits humains.