Künstliche Intelligenz &
die demokratische Gesellschaft

Es sind normative Größen, die als Lernziel von KI-Systemen nur schwer einzubauen sind. Zwar existieren Ansätze, mit denen versucht wird, ethische Prinzipien im Designprozess von Software zu integrieren. So formuliert die Bundesregierung in ihrer KI-Strategie den Anspruch „ethics by, in and for design“. Demnach sind im gesamten Prozess der Entwicklung von KI ethische Prinzipien mitzudenken und zu integrieren. Die größere Wirkung hätte aber ein von demokratischen und ethischen Werten geprägter Einsatz von KI-Systemen. Die Plattform Lernende Systeme hat einen Mindeststandard an Werten entwickelt, die KI-Systeme abbilden sollten:

1. Beim Einsatz von KI-Systemen muss Schaden für Einzelpersonen, Gemeinschaften oder die Umwelt vermieden werden – insbesondere in Bezug auf Gesundheit und Leben – oder in gerechtfertigter Abwägung gegen einen größeren Nutzen so klein wie möglich gehalten werden.
2. KI-Systeme müssen rechtskonform sein, ebenso ihre Entwicklung und Nutzung. Das gilt für alle jeweils bestehenden Gesetze.
3. KI-Systeme müssen technisch robust sein – also zuverlässig funktionieren und zu keinem Zeitpunkt ein unannehmbares Sicherheitsrisiko darstellen.

Ethische Prinzipien im Design und in den Einsatzszenarien von KI mitzudenken, ist allein jedoch nicht ausreichend. Wichtig sind auch Mechanismen, die es Nutzerinnen und Nutzern möglich machen, Ergebnisse von KI nachzuvollziehen und gegebenenfalls zu korrigieren. Das ist nicht einfach umzusetzen. Algorithmen sind oft so komplex und basieren auf so vielen Daten, dass es schwierig ist, sie technischen Laien zu erklären. Oft ist gar nicht möglich, KI-Ergebnisse nachzuvollziehen: Sie werden darauf trainiert, ein Problem zu lösen, den Weg dorthin müssen sie aber selbst finden. Auch gelten Algorithmen als Firmengeheimnis. Diese sind wichtig, um wettbewerbsfähig und innovativ zu bleiben.

Die Anforderungen an eine verantwortungsvolle Gestaltung von KI-Systemen sind also vielfältig. Sie lassen sich entlang von drei grundlegenden ethischen Werten bestimmen: Selbstbestimmung, Gerechtigkeit und Schutz der Privatheit. Diese Werte auszudifferenzieren ist eine notwendige Voraussetzung, um KI-Systeme zu entwickeln, die dem Wohl der Menschen und der Gesellschaft dienen. Die Plattform Lernende Systeme hat dafür einen Vorschlag entwickelt.

Für das Training von KI-Systemen sind Unmengen von Daten nötig. Diese Datensätze bilden Ereignisse aus der Vergangenheit ab, auf deren Basis Prognosen erstellt werden können. Diese Daten können nicht von sich aus neutral sein. Sie enthalten vielmehr gesellschaftliche Verhältnisse und Strukturen und können somit auch eine verzerrte Realität auf Basis von bestehenden Diskriminierungen abbilden.

Diskriminierung meint eine ungerechtfertigte Ungleichbehandlung aufgrund von Merkmalen wie Alter, Geschlecht oder Hautfarbe. Auch eine gleiche Behandlung von Ungleichen kann eine Form von Diskriminierung sein, weil so beispielsweise besondere Bedarfe bestimmter Gruppen, wie Menschen mit Behinderung, nicht mehr abgebildet werden können.

Beispiele für KI-Systeme, die Verzerrungen reproduziert haben, die in ihren Trainingsdaten enthalten waren, gibt es einige:

• In einem großen Unternehmen haben Algorithmen Bewerbungsunterlagen für die Personalabteilung vorselektiert, unter dem Kriterium der Eignung für eine ausgeschriebene Stelle. In manchen Fällen wurden weibliche Personen grundsätzlich schlechter bewertet als ähnlich qualifizierte männliche Personen. Ursächlich dafür waren die Trainingsdaten der Systeme, in denen erfolgreiche Bewerbungen eingestellter Mitarbeiterinnen und Mitarbeiter ausgewertet wurden. Da diese überwiegend männlich waren, betrachtete das KI-System die Eigenschaft „männlich“ daraufhin als positiv und bewertete Bewerbungen von Frauen in Folge schlechter.
• In China werden die immensen Datenströme, die durch die Nutzung mobiler Endgeräte entstehen, für die Analyse des Verhaltens der Bürgerinnen und Bürger genutzt. In einigen Städten werden dazu sogenannte Social-Scoring-Verfahren eingesetzt, um diese Daten automatisiert zu sammeln, auszuwerten und daraus Punktwerte zu ermitteln. Diese beschreiben, ob jemand „gut“, im Sinne von ehrlich und zuverlässig, aber auch im Sinne von linientreu ist. Eine hohe Punktzahl führt zum Beispiel zu finanziellen Erleichterungen, Bevorzugung bei Wohnungsvergaben und höherer Kreditwürdigkeit. Einige Lokalregierungen beziehen sogar die Ausübung von Religion, politisches und journalistisches regime-kritisches Engagement in das System mit ein und vergeben dafür Minuspunkte .
• Bilderkennungssysteme, die optische Sensoren beispielsweise an Seifenspendern zugrunde liegen, wurden mit Bildmaterial von Händen trainiert, das überwiegend weiße Menschen repräsentierte. Hände von Menschen mit dunkler Hautfarbe wurden so konsequent schlechter erkannt (und keine Seife ausgegeben).