Mehr Teilhabe mit KI: eine Gestaltungsfrage

Ein Expertenbeitrag von von Jochen J. Steil, Leiter des Instituts für Robotik and Prozessinformatik an der TU Braunschweig und Mitglied der Plattform Lernende Systeme

Ein Avatar auf dem Mobiltelefon übersetzt gesprochene Sprache in Gesten für Gehörlose. Eine Sprach-App beschreibt Kamerabilder für Blinde. Ein Assistenzsystem in der Montage unterstützt Beschäftigte mit kognitiven Einschränkungen dabei, dass sie keinen Schritt beim Zusammenbau eines Gerätes vergessen und alles dokumentiert wird. Dies sind nur drei Beispiele, wie technische Systeme mit Künstlicher Intelligenz mehr Teilhabe in unserer Gesellschaft und insbesondere der Arbeitswelt ermöglichen. Ihr Versprechen: den Umgang mit unserer komplexen Umwelt zu erleichtern.

Die aktuellen Fortschritte der KI-Technologien sind mit großen Veränderungen in unserer Gesellschaft verbunden. Seit dem Aufkommen von ChatGPT und Co. erleben wir, wie sich unsere privaten Gewohnheiten durch die neue Qualität der Bild- und Spracherzeugung mit KI wandeln – sei es, wenn wir den Sprachbot selbst um Kochrezepte oder ausformulierte Geburtstagsreden bitten oder wenn wir über die KI-erzeugten fantastischen Bilder in den Medien staunen. Auch viele Arbeitsplätze und Arbeitsformen werden sich infolge der vielfältigen Einsatzmöglichkeiten sogenannter generativer KI verändern. Damit gehen auch neue Chancen für die Teilhabe von Menschen mit körperlichen, geistigen oder psychischen Beeinträchtigungen einher. Sie könnten von geeigneten Systemen individuell unterstützt und für neue Arbeitstätigkeiten befähigt werden.

Betroffene müssen bei KI-Entwicklung berücksichtigt werden

Das Ziel einer inklusiveren Gesellschaft ist gesetzlich und im weltweiten Rahmen durch die UNO vorgegeben. Das bedeutet: weniger Hindernisse, die Beeinträchtigungen erst zu Einschränkungen machen und Menschen an der Entfaltung ihrer Fähigkeiten hindern. Dies betrifft immer mehr Menschen, nicht zuletzt durch eine alternde Gesellschaft und damit häufig verbundene gesundheitliche Probleme. Stand 2020 gibt es allein in Deutschland ca. 7,9 Millionen Menschen mit Beeinträchtigungen vielfältiger Art. Teilhabe ist dabei nicht Selbstzweck, sie verbessert die Lebensqualität, Gesundheit und Selbstbestimmung der Betroffenen.

Künstliche Intelligenz kann hier helfen. KI-Systeme können Texte vorlesen, vorverarbeiten, zusammenfassen oder Erklärungen verfassen. Algorithmen können Bilder beschreiben, die Umgebung erkennen und bei der Orientierung unterstützen, bei kognitiven Beeinträchtigungen an Abläufe erinnern oder den Tag strukturieren. Sie können den persönlichen Lernbedarf in Bildung und Ausbildung erkennen und individuell bedienen. Die beschriebenen KI-Systeme werden jedoch meist für den allgemeinen Gebrauch und die massenhafte Anwendung entwickelt. Während sie natürlich für alle Menschen eine sinnvolle Ergänzung im Alltag darstellen, sind sie besonders für Menschen mit Beeinträchtigungen hilfreich.

Das Problem: Die Betroffenen haben sehr vielfältige Fähigkeiten einerseits und Beeinträchtigungen andererseits, die sich in den statistischen Datenbasen der Künstlichen Intelligenz typischerweise nicht ausreichend wiederfinden. Notwendig ist eine Anerkennung und Wertschätzung von individuellen Eigenschaften, Interessen und Bedürfnissen, um angemessene und passgenaue Verfahren zu entwickeln, welche die Teilhabe fördern können. Daher sollten Betroffene aktiv in die KI-Entwicklung eingebunden sein. Auch muss weiter erforscht werden, wie technische Systeme vor Ort und im direkten Kontakt mit den Menschen, die sie unterstützen sollen, individuell angepasst werden könne und wie deren Vielfalt in den Trainingsdaten der KI-Algorithmen berücksichtigt werden kann. Denn so unterschiedlich wir Menschen sind, so unterschiedlich sind auch unsere Arten zu lernen, sich (weiter-) zu bilden und zu arbeiten und so unterschiedlich sind die Bedürfnisse zur Unterstützung mit dem Ziel der Teilhabe.

Umdenken erforderlich

Durch den Einsatz von KI-Systemen ergeben sich aber auch neue Exklusionsrisiken, besonders wenn KI-Systeme unbedarft verwendet und ihre Ergebnisse nicht kontrolliert werden. KI-Systeme spiegeln den in den Trainingsdaten abgebildeten Status Quo der Gesellschaft – inklusive all ihrer Vorurteile gegenüber Menschen mit Beeinträchtigungen. Sie werden nicht wertorientiert trainiert, Inklusion als Anwendungsziel kommt in ihnen nicht vor. Werden beispielsweise KI-Systeme für die Personalauswahl in der HR-Abteilung eingesetzt, können sie auf diese Weise Diskriminierung fortsetzen. Auch müssen KI-getriebene Systeme und speziell solche, die im engen Kontakt Menschen assistieren, Daten über diese erheben und auswerten, um überhaupt nützlich zu sein. Es ist daher unvermeidlich, dass neue Überwachungs- und Diagnosemöglichkeiten entstehen, die auch zur Ausgrenzung und zur Verschärfung eines Leistungswettbewerbs genutzt werden können, in dem Teilhabe keine Priorität und keinen Platz hat.

Teilhabe durch KI ist also eine Gestaltungsfrage. Um eine inklusive Gesellschaft zu verwirklichen, ist ein Umdenken erforderlich, sowohl in den Unternehmen und dem Arbeitssystem als auch im öffentlichen und privaten Bereich, wo allzu häufig gleichförmige Anforderungen den individuellen Fähigkeiten und Beschränkungen von Menschen nicht gerecht werden. KI-Systeme können die gleichberechtigte Teilhabe von Menschen mit unterschiedlichen Beeinträchtigungen verbessern. Voraussetzung dafür ist jedoch, passende Technologien in Entwicklung, Anwendung und Produktion zu bringen sowie die geeigneten Rahmenbedingungen zu schaffen – in der Unternehmenskultur, der Forschungsförderung, und der Regulierung von Technologien. Kann das Versprechen von KI, Teilhabe zu ermöglichen, eingelöst werden? Die Antwort liegt wesentlich darin, ob wir den Willen und die Mittel aufbringen werden, die neuen Technologien jenseits der wirtschaftlich attraktivsten Massenanwendungen passgenau und adaptiv für Menschen mit Beeinträchtigungen weiterzuentwickeln und ob es gelingt unsere Arbeitsplätze, öffentlichen Räume und Rechtsrahmen so zu gestalten, dass vielfältige Technologien für individuelle Bedürfnisse einsetzbar werden.

Der Beitrag basiert auf dem Whitepaper “Mit KI zu mehr Teilhabe in der Arbeitswelt. Potenziale, Einsatzmöglichkeiten und Herausforderungen”. Es steht unter hier zum kostenfreien Download zur Verfügung.