Web Content Display Web Content Display

Droits de l'homme et démocratie à l'ère numérique - Actes du colloque organisé au Sénat dans le cadre de la présidence française du comité des ministres du conseil de l'Europe

14 novembre 2019, Paris

II. M. Jan Kleijssen, Directeur, Société de l'information - Lutte contre la criminalité, Conseil de l'Europe

 

Merci. Plusieurs sujets que je souhaitais aborder l'ont déjà été ce matin. Je vous épargnerai mes commentaires sur les travaux du Conseil de l'Europe relativement à la liberté des médias, que le président de notre comité directeur vous a déjà présentés.

En revanche, je parlerai de la cybercriminalité et de nos travaux sur l'intelligence artificielle. Au préalable, je vous livrerai une citation d'un journaliste français, Bruno Patino, issue de son ouvrage La civilisation du poisson rouge. Si vous doutez de ses propos, je vous conseille de prendre le train pour trouver une confirmation de son postulat. Selon lui, « le poisson rouge tourne dans son bocal. Il semble redécouvrir le monde à chaque tour. Les ingénieurs de Google ont réussi à calculer la durée maximale de son attention : 8 secondes. Ces mêmes ingénieurs ont évalué la durée d'attention de la génération des millenials, celle qui a grandi avec les écrans connectés : 9 secondes. Nous sommes devenus des poissons rouges, enfermés dans le bocal de nos écrans, soumis au manège de nos alertes et de nos messages instantanés. » Je pense néanmoins que son constat s'applique également aux personnes nées précédemment.

Comme l'a souligné la professeure Divina Frau-Meigs ce matin, il faut parfois des actes d'une forte gravité pour que le grand public, mais aussi les responsables politiques, se réveillent. Nous avons connu malheureusement, en mars 2019, l'attaque terroriste de Christchurch. Pendant 17 minutes, elle a été diffusée en direct. J'ai assisté, avec quelques-uns d'entre vous, à une conférence de l'Autorité de protection des données, organisée à Tirana il y a deux semaines. Le responsable de la Nouvelle-Zélande nous a raconté avoir interrogé les réseaux sociaux sur ce dysfonctionnement des outils d'intelligence artificielle. Leur réponse a été la suivante : « Ce n'était pas assez sanglant ». À l'initiative du Président de la République française et de la Première ministre de Nouvelle-Zélande, dix chefs d'État et de gouvernement, ainsi que des dirigeants d'entreprises et d'organisations du numérique, ont lancé l'Appel de Christchurch pour lutter contre le terrorisme et l'extrémisme violent en ligne. Hélas, l'attentat survenu à Halle, le 10 octobre dernier, a été retransmis en direct de la même manière. Il reste encore des actions à mener pour s'assurer que l'appel de Christchurch soit mis en oeuvre.

Je voudrais également appeler votre attention sur un rapport du 9 octobre 2019 publié par le rapporteur spécial des Nations unies sur la liberté d'expression. S'agissant des lois imposant de nouvelles obligations aux entreprises pour éviter la propagation des discours haineux, M. David Kaye relève que « les entreprises ne prennent pas au sérieux leurs responsabilités ». J'espère qu'il sera entendu.

Au cours des six derniers mois, les cybercriminels ont volé 4,1 milliards de fichiers comportant des données personnelles. Des millions de photos d'enfants et autres victimes d'abus sexuels ont été partagées. Des ordinateurs ont fait l'objet d'attaques, notamment en période électorale. Malheureusement, moins de 1 % de la cybercriminalité est effectivement signalée à la police. Sur les 100 000 cas qui ont été portés à la connaissance des forces de l'ordre, seulement 1 à 10 conduisent à une condamnation. L'impunité est donc presque totale, et la profitabilité de ce secteur est extrême. Si le même constat s'appliquait à la criminalité ordinaire, je pense qu'aucun Ministre de la Justice ne resterait en fonction très longtemps. Il y a donc beaucoup de choses à faire.

64 pays ont signé la convention de Budapest sur la cybercriminalité. Une centaine de pays ont commencé à la mettre en oeuvre. Le Conseil de l'Europe a été actif dans 130 pays. Nous avons élaboré un nouveau protocole pour permettre aux forces de l'ordre de récupérer des informations, selon des conditions très précises. Ce protocole soulève un grand nombre de questions relatives à la protection des données. Auparavant, la police pouvait entrer au domicile d'un suspect et saisir un disque dur qui servirait de pièce à conviction. Actuellement, les preuves se trouvent sur le cloud. Les traités en vigueur en matière criminelle se révèlent inadaptés à ces nouvelles formes de criminalité.

La semaine prochaine, je me rendrai à la Conférence Octopus à Strasbourg. Les débats seront retransmis en direct sur Internet.

Je suis convaincu que l'intelligence artificielle va changer l'Histoire. La disponibilité des données de masse et les nouvelles capacités de traitement des ordinateurs ont conduit à une explosion de l'intelligence artificielle. Il est intéressant de souligner à cet égard l'absence presque totale d'une réglementation. À la différence de tous les autres produits, les outils d'intelligence artificielle ne sont pas réglementés. Nous pourrions connaître un accident similaire à celui du Boeing 737 Max. En l'occurrence, l'intelligence artificielle n'avait pas été mise à jour et l'intervention humaine était impossible, les pilotes n'ayant pas été formés pour désactiver le système de vol autonome. Pour remédier à l'absence de réglementation, des efforts ont été entrepris. La Déclaration de Montréal a été suivie d'une série de chartes éthiques. Cependant, ces instruments sont non contraignants : le citoyen n'a pas la possibilité de les invoquer devant un tribunal. Je me félicite de la décision du Conseil de l'Europe de réunir le comité directeur pour évaluer la possibilité d'élaborer un nouvel instrument juridique pertinent pour s'assurer que la conception et le développement de l'intelligence artificielle répondre aux normes des droits de l'Homme, de l'État de droit et de la démocratie. Il s'agira d'un processus multipartite impliquant des entreprises, nos partenaires de l'OCDE et de l'Union européenne. J'espère que ce procédé va aboutir à une réglementation devenue urgente.