Die neuen Spielregeln beherrschen: Wie sich die Entwicklung der künstlichen Intelligenz auf Menschenrechte, Demokratie und Rechtsstaatlichkeit auswirkt

26. und 27. Februar 2019, Helsinki

SCHLUSSFOLGERUNGEN DER KONFERENZ

Mit Informationsverarbeitungstechnologien und Machine-Learning-Tools können Dienstleistungen rationalisiert und enorme Effizienzsteigerungen sowohl bei der Aufgabenausführung als auch der Systemleistung in einem breiten Spektrum von öffentlichen und privaten Bereichen erreicht werden. In einer Zeit, in der die neuen Instrumente zur Kommunikation, Information, Bildung, Unterhaltung, Durchführung von Geschäftsvorgängen oder Ausübung vieler anderer alltäglicher Handlungen die Gesellschaft grundlegend verändert, profitieren immer mehr Menschen von den vielen Vorteilen der künstlichen Intelligenz (KI).

Der technologische Fortschritt kann die menschliche Entwicklung fördern und zur Schaffung optimaler Bedingungen für die Ausübung der Menschenrechte beitragen. Allerdings müssen die weiter reichenden Auswirkungen der Nutzung dieses Fortschritts und möglicher Missbräuche für die Grundwerte demokratischer Gesellschaften, insbesondere Gleichheit und Gerechtigkeit, berücksichtigt werden.

Die folgenden Leitlinien, mithilfe derer gewährleistet werden soll, dass bei der Entwicklung der KI das Augenmerk auf der Sicherheit und dem Gemeinwohl liegt, orientieren sich an der offenen, umfassenden, interdisziplinären Multi-Stakeholder-Debatte, die während der Konferenz stattfand:

1. Die KI hat positive und negative Auswirkungen auf die Ausübung der Menschenrechte, das Funktionieren demokratischer Gesellschaften und die Rechtsstaatlichkeit. Diese Fragen erfordern rechtzeitige und durchdachte politische Antworten und müssen in der politischen Agenda der Regierungen Priorität haben.

2. KI besitzt ein erhebliches Potenzial für Wirtschaftswachstum und Innovation. Diese Ziele sind im Wesentlichen in den gemeinsamen Werten demokratischer Gesellschaften verankert. Die ökonomischen Vorteile der KI können nur genutzt werden, wenn diese Werte gebührend beachtet werden.

3. Die KI betrifft alle Aspekte des menschlichen Lebens auf globaler und transversaler Ebene. Alle Staaten und Interessengruppen müssen daher ihre Bemühungen koordinieren und unter anderem Informationen und bewährte Praktiken austauschen sowie proaktiv Synergien schaffen.

4. Bei der Entwicklung der KI sollte der Mensch im Mittelpunkt stehen, damit der Einzelne und die Gesellschaft davon profitieren. Während des ganzen Entwicklungszyklus sollten die Angemessenheit der Anwendung in einem bestimmten Kontext sowie die damit verbundenen Vorteile und Risiken auf transparente und nachvollziehbare Weise bewertet werden.

5. Es ist wichtig, unser Verständnis von KI und ihrer Auswirkungen auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu vertiefen. Dies erfordert Investitionen in interdisziplinäre und unabhängige Untersuchungen über ihre direkten und indirekten Auswirkungen auf Einzelpersonen und Gesellschaften in konkreten Kontexten.

6. Die Konzeption, die Entwicklung und der Einsatz der KI müssen wirksamen Überwachungsmechanismen und demokratischer Kontrolle unterworfen sein.

7. Ein demokratischer Prozess funktioniert, wenn die Bevölkerung unabhängig informiert wird und wenn offene und integrative Debatten gefördert werden. Die Bevölkerung sollte stärker auf die potenziellen Risiken und Vorteile der KI aufmerksam gemacht und die notwendigen neuen Fähigkeiten müssen entwickelt werden. Darüber hinaus muss das Vertrauen der Öffentlichkeit in das Informationsumfeld und die KI-Anwendungen gestärkt werden.

8. Menschenrechte sind der Grundwert demokratischer Gesellschaften. Um sie zu schützen und zu fördern, müssen sich alle Akteure aktiv engagieren und dabei den Bedürfnissen schutzbedürftiger, von Ausgrenzung bedrohter Gruppen besondere Beachtung schenken. Es bedarf wirksamer und legitimer Mechanismen, um Menschenrechtsverletzungen zu verhindern und Diskriminierung, Ungleichheit und Voreingenommenheit zu bekämpfen.

9. Die Konzeption, die Entwicklung und der Einsatz von KI-Tools müssen einer Risikobewertung entsprechend den geltenden Grundsätzen unterzogen werden. Alle automatisierten Prozesse sollten so konzipiert sein, dass sie von einem Menschen überprüft werden können. Bei vermeintlichen Menschenrechtsverletzungen müssen im Rahmen der öffentlichen und privaten Zuständigkeit wirksame Rechtsmittel vorgesehen werden. Die Transparenz der Algorithmen ist entscheidend, um Vertrauen aufzubauen und einen angemessenen Schutz der Rechte zu gewährleisten.

10. Die Gleichheit vor dem Gesetz darf nicht durch algorithmische Berechnungen beeinträchtigt werden. KI-Instrumente können qualifizierte Richterinnen und Richter unterstützen, Inhalt und Form der Gesetze und Rechtssysteme demokratischer Gesellschaften müssen jedoch weiterhin massgeblich von Menschen bestimmt werden.

11. Die bestehenden massgebenden internationalen Instrumente, einschliesslich der Allgemeinen Erklärung der Menschenrechte und der Europäischen Konvention zum Schutze der Menschenrechte und Grundfreiheiten, gelten unabhängig von kontextuellen Änderungen aufgrund von KI und müssen eingehalten werden, um sicherzustellen, dass der technologische Fortschritt im Einklang mit den Grundsätzen der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit erfolgt. Ethische Richtlinien und Selbstregulierung sind zusätzliche Instrumente zur Förderung dieser Werte.

12. Alle relevanten Interessengruppen sollten sich vertieft mit den Auswirkungen von KI auf die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit befassen. Der Europarat sollte im Rahmen eines Multi-Stakeholder-Ansatzes weiterhin sektorspezifische Empfehlungen, Leitlinien und Verhaltenskodizes entwickeln, um die Menschenrechte und die Nachhaltigkeit der demokratischen Institutionen und Prozesse zu fördern. Er sollte die Auswirkungen von KI auf die gemeinsamen Grundlagen demokratischer Gesellschaften überwachen, weiterhin mögliche Lücken in der Anwendbarkeit und Durchsetzbarkeit bestehender Rechtsrahmen ermitteln und auf dieser Grundlage die Notwendigkeit weiterer Massnahmen beurteilen, um sicherzustellen, dass die Gestaltung, Entwicklung und der Einsatz von KI-Systemen mit den Menschenrechten vereinbar sind.

www.coe.int/ai

Towards an ethical and responsible AI
for human rights, rule of law
and democracy

Follow: #CoE4AI

         

 Agenda

 Videos

 Contact us