Wie können Gleichstellungsstellen beurteilen, ob ein auf einem Algorithmus oder künstlicher Intelligenz (KI) beruhendes System zu Diskriminierung beigetragen hat – und welche Schritte sind angezeigt, um Abhilfe zu schaffen? Wie können Behörden sicherstellen, dass Entwicklung und Nutzung von KI mit dem wirksamen Schutz von Gleichstellung und Nichtdiskriminierung einhergehen? Die neue Europäische Methode zur Bewertung algorithmischer Diskriminierung übersetzt Normen sowie rechtliches und technisches Fachwissen in einen nützlichen, schrittweisen Ansatz für die Praxis. Sie ist darauf ausgelegt, Antworten zu liefern.

Die neue Publikation wurde von Louise Hooper, Ylja Remmits und Ioanna Papageorgiou verfasst und soll Gleichstellungsstellen und andere Akteure dabei unterstützen, die an einem Fall beteiligten algorithmischen Systeme zu identifizieren, die Informationen zu erheben, die notwendig sind, um potenzielle Diskriminierungen zu erkennen, und sie aus rechtlicher und technischer Perspektive zu bewerten. Sie soll auch dazu beitragen, mögliche Abhilfemaßnahmen zu ermitteln, wenn Diskriminierung festgestellt wird.

Zusammenarbeit auf dem ganzen Kontinent

Die Bewertungstechnologie wurde heute auf der Abschlussveranstaltung des Projekts im Rahmen des Instruments für technische Unterstützung „Wahrung von Gleichstellung und Nichtdiskriminierung durch Gleichstellungsstellen im Hinblick auf den Einsatz von KI in der öffentlichen Verwaltung“ vorgestellt, das von der Europäischen Union kofinanziert und vom Europarat in Zusammenarbeit mit der Europäischen Kommission umgesetzt wird.

Zwei Jahre lang haben Gleichstellungsstellen aus drei europäischen Ländern (Unia aus Belgien, die Ombudsstelle für Nichtdiskriminierung aus Finnland und die Kommission für Bürgerschaft und Gleichstellung der Geschlechter aus Portugal) mit den Projektfachleuten zusammengearbeitet. Das Ziel lautete, Instrumente und Praktiken zu entwickeln, um die öffentliche Verwaltung in ganz Europa bei der Anpassung an die sich rasch entwickelnde europäische Regulierungslandschaft zu unterstützen. Die heute veröffentlichte Bewertungsmethode ist die jüngste Publikation des Projekts und auf Englisch, Finnisch, Französisch, Niederländisch, Portugiesisch und Schwedisch verfügbar.

 Weitere Informationen über die weltweit führende Arbeit des Europarates im Bereich KI