PLS-Fachdialog auf der TÜV AI Conference: Chancen von generativer KI verantwortungsvoll nutzen

Generative Künstliche Intelligenz (KI) wie ChatGPT verändern unsere Lebens- und Arbeitswelt fundamental – indem sie eigenständig Texte und Berichte erstellen, Dialoge führen, das Wissen von ExpertInnen bündeln und die Forschung beschleunigen, etwa in der Medizin. Damit verbunden sind enorme Chancen, doch es stellt sich auch die Frage: Wie nutzen wir die neuen Werkzeuge verantwortungsvoll und kompetent? Und stellen sicher, dass dabei nicht wichtige menschliche Kompetenzen verloren gehen? Expertinnen und Experten der Plattform Lernende Systeme diskutierten dazu im Rahmen der TÜV AI Conference mit den Gästen der virtuellen Veranstaltung.  

Generative KI wird zum Ökosystemtreiber. Sie steigert die Produktivität, optimiert Prozesse, unterstützt die Forschung und kann mittels synthetischer Daten den Datenschutz verbessern, so Marian Gläser, Co-Gründer und CEO von brighter AI, zum Auftakt des Fachdialogs. Zugleich gelte: Die Systeme sind nur bedingt erklärbar, da ihr Trainings-Content nicht überblickbar ist und es an Qualitätssicherung fehlt. Damit stelle sich die Frage, wie sich die Chancen der Technologie verantwortungsbewusst nutzen lassen.

Disruptive Potenzial für viele Branchen

Das disruptive Potenzial von generativer KI ist in vielen Anwendungsbereichen erkennbar. Für die Medizin sieht Wolfgang Nejdl, geschäftsführender Direktor des in Hannover ansässigen Forschungszentrums L3S, große Verbesserungen bei Automatisierung und Dokumentation. In der Informatik werde sich die Softwareprogrammierung massiv verändern – und damit die Inhalte der Ausbildung, so Sirko Straube, stellvertretender Direktor am Robotics Innovation Center des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) in Bremen. Zu erwarten sei zudem eine neue Qualität des Dialogs zwischen Menschen und Maschinen auf Basis von Vor- und Allgemeinwissen sowie assoziativen Komponenten.

In der Bildung stehe man aktuell vor der Frage, wie Prüfungen verändert werden müssen, langfristig biete generative KI aber große Chancen, so Rahild Neuburger, Leiterin der Forschungsstelle „Information, Organisation und Management“ an der LMU Munich School of Management. Im Arbeitsleben seien künftig nicht primär Wissen, sondern vor allem Problemlösung, strategisches und kritisches Denken sowie Reflexionsfähigkeit gefordert.

Generative KI beeindruckt, macht aber auch Fehler

Doch wie können Beschäftigte und Studierende zum Umgang mit generativer KI befähigt werden? Wichtig sei die Vermittlung von Wissen darüber, was generative KI tatsächlich kann und was nicht, so Rahild Neuburger. Außerdem: die Fähigkeit, mit Systemen wie ChatGPT interaktiv zu kommunizieren, deren Ergebnisse kritisch zu hinterfragen und – bei aller Eloquenz der Systeme – Selbstvertrauen in die eigene Bewertung zu haben. Die entsprechenden Kompetenzen – insbesondere auch im Umgang mit Wahrscheinlichkeiten – müssten möglichst früh ausgebaut werden. Das sei auch in der Medizin wichtig, so Wolfgang Nejdl: Ärztinnen und Ärzte müssten auch bei Unterstützung durch KI-Systeme weiterhin den Anspruch haben, Expertin und Experte in ihrem Fach zu sein – und die Ergebnisse von KI-Systemen einem Plausibilitätscheck unterziehen.

Denn: KI-Systeme machen auch Fehler. Die Systeme selbst müssen hinsichtlich der Nachvollziehbarkeit der Ergebnisse verbessert werden, so Sirko Straube. Transparenz und das Wissen darum, auf welchen Daten ein KI-System trainiert worden ist, sei wichtig, um geeignete Einsatzgebiete besser abschätzen zu können. Voraussetzung dafür sei, alle Trainingsdaten offen zu legen.

Im Anschluss an den Fachdialog beantworteten die Expertinnen und Experten der Plattform Lernende Systeme Fragen aus dem virtuellen Publikum. Moderiert wurde die Veranstaltung von Birgit Obermeier aus der Geschäftsstelle der Plattform Lernende Systeme. Ein Mitschnitt des Fachdialogs ist hier abrufbar.