Les technologies algorithmiques peuvent perpétuer et amplifier les inégalités sociétales et les stéréotypes néfastes parce qu'elles sont souvent conçues et alimentées par des données et des modèles historiques qui reproduisent des stéréotypes et de fausses hypothèses sur le genre, la race, l'orientation sexuelle, les capacités, la classe, l'âge, la religion ou les croyances, la géographie et d'autres facteurs socioculturels et démographiques. 

La nouvelle étude commandité par les comités du Conseil de l’Europe pour l'égalité de genre et  l’anti-discrimination examine les risques spécifiques des technologies algorithmiques pour l'égalité et la non-discrimination, les réponses juridiques et politiques qui pourraient être proposées pour combattre ces risques et le potentiel de ces technologies pour promouvoir l'égalité, y compris l'égalité de genre.

L'étude souligne que les préjugés ne sont pas seulement liés aux données, mais aussi aux fondements humains et sociaux plus larges de ces artefacts technologiques. Elle identifie les lacunes des outils juridiques et pratiques existants pour prévenir la discrimination dans les systèmes algorithmiques et avance le potentiel d’utiliser ces technologies pour promouvoir l'égalité en suivant des voies juridiques pour une action positive et des obligations positives.

Le 8 octobre, la co-auteure de l’étude, Ivana Bartoletti, est intervenue sur ces questions dans le cadre de la session du Conseil de l’Europe au Forum sur la gouvernance de l'Internet (IGF) à Kyoto, "Shaping Artificial Intelligence Technologies to Ensure Respect for Human Rights and Democratic Values".