Les États doivent veiller à ce que les systèmes d'IA utilisés lors des élections et des référendums ne conduisent pas à des résultats inégaux et discriminatoires.

L'article 14 de la CEDH interdit expressément toute discrimination fondée sur « les opinions politiques ou autres ». Les États devraient se pencher sur la capacité de l'IA à générer de fausses informations ou à conduire à l'exclusion des processus démocratiques de certaines personnes ou de celles qui peuvent être sous-représentées ou se trouver dans une situation vulnérable. Les États doivent également veiller à ce que les systèmes d'IA ne restreignent ni ne découragent indirectement la participation de groupes spécifiques aux processus démocratiques.

Compte tenu des risques avérés de biais algorithmiques, qui peuvent également inclure l'affiliation politique, des garanties solides devraient être mises en place pour veiller à ce que ces systèmes n'excluent pas, ne désavantagent pas ou ne discriminent pas de quelque manière que ce soit certains groupes, compromettant ainsi les principes d'impartialité et de neutralité dans l'administration du processus électoral.[1] En conséquence, tout au long du cycle de vie des systèmes d'IA dans le contexte électoral, des mesures proactives, telles que l'utilisation d'ensembles de données inclusifs et représentatifs lors de la formation des systèmes d'IA, visant à identifier et à atténuer les résultats discriminatoires devraient être mises en œuvre, afin de garantir que l'affiliation politique ou d'autres caractéristiques protégées n'affectent pas la jouissance du droit à des élections libres ou ne faussent pas le processus démocratique.

 

[1] Sejdić et Finci c. Bosnie-Herzégovine [GC], n° 27996/06, 22 décembre 2009, § 44.