Was kann KI, was soll KI, was darf KI?

Ein Expertenbeitrag von Prof. Dr. Wolfgang Wahlster und Tanja Rückert, Plattform Lernende Systeme

Jeden Tag werden weltweit neue KI-Innovationen verkündet: Wo finden aktuell die größten technologischen Entwicklungssprünge bei KI statt? Wo bleiben (weiterhin) Grenzen bestehen?

Wolfgang Wahlster: In den letzten Jahren wurde die Leistungsfähigkeit der automatischen Mustererkennung durch Maschinelles Lernen, etwa bei der Spracherkennung oder Bildklassifikation, enorm gesteigert. Wir erzielen inzwischen Erkennungsraten, die in dem Bereich liegen, wie wir sie von Menschen erwarten. Es gibt sogar einzelne Klassifikationsaufgaben, bei denen KISysteme mit mehrschichtigen neuronalen Netzen heute schon etwas bessere Ergebnisse liefern als Fachexperten, beispielsweise Zahnärzte bei der Erkennung von Karies auf Röntgenbildern. Beim rein statistischen Lernen aus Massendaten stoßen wir aber auch an Grenzen. Der Mensch verknüpft das, was er aus Daten lernt, mit seinem Wissen, das er sich zusätzlich angelesen oder während der Ausbildung angeeignet hat. In der KI-Forschung unterscheiden wir daher zwischen modellfreiem und modellbasiertem Lernen. Fieberhaft wird in der KI-Forschung derzeit an hybriden Systemen gearbeitet, bei denen bewährte Modellvollstellungen mit statistischen Lernergebnissen kombiniert werden. Beim interaktiven Lernen wird zusätzlich versucht, vom lernenden KISystem im Dialog mit einem menschlichen Fachexperten gezielt und aufgabenspezifisch das notwendige Domänenwissen erwerben zu lassen. Es geht in der nächsten Generation von KI-Systemen nicht mehr nur um die bloße Analyse von Daten, sondern auch darum, 15 Schlussfolgerungen aus der Datenlage zu ziehen, die schließlich zu einer konkreten Handlungsplanung des Systems führen.

Tanja Rückert: KI bedeutet zunächst mal „Lernen“. Je mehr man Computer mit Daten füttert, desto intelligenter werden sie. Wenn wir unsere Computer mit Bildern füttern, verwenden wir allerdings sehr häufig dieselben Bilder. Im Straßenverkehr gibt es beispielsweise Millionen Bilder von Autos. Was dagegen häufig fehlt, sind Sonderfälle – etwa Baumaschinen. Es ist eine der Herausforderungen für die KI-Entwicklung sicherzustellen, dass mit der Zeit auch die nicht so häufig auftretenden Fahrzeuge oder Fortbewegungsmittel in die KI-Systeme, die diese Daten verarbeiten sollen, integriert werden. Ein wichtiger Schritt dazu ist, dass KI-Systeme mit einer Kombination von Daten aus verschiedenen Sensoren lernen. Mit der Verwendung von Daten aus verschiedenen Sensoren und der Anwendung verschiedener Algorithmen kann man so etwa sicherstellen, dass auch Spezialfälle – und nicht nur 80 Prozent der Fälle – erkannt werden. Grenzen von KI liegen zudem klar im Bereich von Emotion, Empathie und sozialer Intelligenz. Es gibt dazu zwar sehr viele Forschungsbemühungen, aber insgesamt ist das noch nicht verwendbar.

Wo sehen Sie den größten Nutzen von KI?

Wahlster: Die meisten KI-Anwendungen sind gesellschaftlich und wirtschaftlich vernünftig. Ein Beispiel ist das Gesundheitswesen, denn dort kann KI in der praktischen Arbeit heute schon helfen. Das medizinische Personal ist derzeit mit einem zu hohen Anteil der Arbeitszeit mit der Dokumentation der eigenen Tätigkeit gebunden. Hier gibt es bereits erste KI-Ansätze, die alle einzelnen Arbeitsschritte der Ärzte und Pflegenden fortlaufend digital erfassen, sodass diese nur noch das automatisiert geführte Protokoll überprüfen und be - stätigen müssen. Damit kann KI das medizinische und pflegerische Personal entlasten, sodass mehr Zeit für den Dialog mit dem Patienten bleibt.

Rückert: KI-Systeme können in vielen Bereichen positive Effekte auf unseren Alltag haben. Sie leisten einen Beitrag zum Klimaschutz, indem wir den Energieverbrauch für Maschinen besser regulieren und reduzieren, Abweichungen im Energieverbrauch schneller er - fassen oder auch den Energieverbrauch dynamisch zwischen Sommer und Winter anpassen können. Darüber hinaus können sie Menschen besser vor Gefahren schützen, etwa durch eine videobasierte Branderkennung, die wir bei Bosch entwickelt haben. Der intelligente Algorithmus erkennt Flammen und Rauch besonders schnell und zuverlässig anhand deren physikalischen Verhaltens. Es gibt inzwischen zahlreiche weitere praxistaugliche Beispiele: Ob das die Erkennung von Falschfahrern im Straßenverkehr, die Identifikation von Teilen auf Start- und Landebahnen am Flughafen oder die Analyse von Parkdaten sind. KI-Systeme bieten dem Menschen Unterstützung bei der Auswahl von Urlaubsfotos, Spracherkennung und Empfehlungen von Musiktiteln. Bei vielen, inzwischen sehr alltäglichen Beispielen denkt man häufig gar nicht mehr daran, dass dort Künstliche Intelligenz dahintersteckt, und es wird zunehmend akzeptiert, dass diese Systeme zum Alltagsleben dazugehören.

Deutschland gilt weltweit als einer der wichtigsten Innovationsstandorte: Werden die Potenziale von KI für die deutsche Wirtschaft von den Unternehmen erkannt?

Wahlster: Insgesamt sehen wir in der deutschen Wirtschaft eine gewisse Aufbruchstimmung, die durch KI geprägte zweite Welle der Digitalisierung aktiv mitzugestalten. Schwachstellen im Bereich KI haben wir hierzulande im B2C-Bereich, etwa beim KI-Einsatz auf Plattformen für den Online-Handel, der international von Unternehmen wie Amazon oder Alibaba dominiert wird. Hier lohnt es sich meiner Meinung nach auch nicht mehr, intensiv zu investieren, weil wir zumindest auf globalem Niveau gegenüber den Hyperscalern nicht mehr aufholen können. Daher sollten wir uns wirtschaftlich und wissenschaftlich auf unsere Stärken konzentrieren. Diese liegen in Deutschland erstens im Bereich der industriellen KI – also dem Einsatz von KI für die nächste Stufe von Industrie 4.0, also etwa bei der Produktionssteuerung und -planung sowie dem Einsatz von Robotern und Werkerassistenzsystemen. Dort sind wir weltweit führend und haben auch gegenüber China und USA einen Vorsprung von zwei bis drei Jahren. Zweitens ist Deutschland auch führend bei intelligenter Unternehmenssoftware, etwa durch Unternehmen wie SAP oder der Software AG. Sie haben sehr viel in KI investiert, inzwischen werden ihre Lösungen bis hin zu mittelständischen Unternehmen aufgegriffen. Weltweit an der Spitze stehen wir drittens bei der kollaborativen Robotik – also der Entwicklung von Robotern, die den Menschen direkt in seinem Arbeitsprozess unterstützen und Hand in Hand mit den Beschäftigten oder im Team (Teamrobotik) miteinander arbeiten. Viele deutsche Großkonzerne und Mittelständler investieren inzwischen gezielt in KI und betreiben teilweise eigene KI-Labore. Ein mittleres Unternehmen, das man hier beispielhaft nennen könnte, ist CEWE, ein Hersteller von Fotoprodukten, der auch ein eigenes KI-Labor betreibt.

Rückert: Viele Unternehmen in Deutschland haben das Potenzial von KI erkannt, die Investitionen sind aber sehr differenziert und nicht jedes Unternehmen steigt in die neue Technologie ein. Es gibt sicher auch Mittelständler, die sich Investitionen hier im Moment nicht leisten können – die Covid-19-Pandemie und ihre wirtschaftlichen Folgen verstärken dies vermutlich weiter. Von daher ist es wichtig, genau diese kleinen und mittleren Unternehmen (KMU) zusammenzubringen, um zu evaluieren, wo sich Kräfte bündeln oder Projekte gemeinsam mit größeren Konzernen vorantreiben lassen. Deutschland hat eine große Stärke im Industrie 4.0-Umfeld und auch darin, komplexe Systeme zu analysieren, da sind wir gemeinsam natürlich stärker. Die Plattform Lernende Systeme leistet für dieses koordinierte Vorgehen – zusammen mit anderen Initiativen der Bundesregierung – sicher einen wichtigen Beitrag.

Werden in Deutschland die richtigen Weichen gestellt, um das Potenzial von KI bei Forschung und Entwicklung auszuschöpfen?

Wahlster: Ja, ich denke schon, denn sehr wichtig bei der KI-Forschung ist, sie mit der Entwicklung konkreter Anwendungen zu verbinden. Daher müssen zeitgleich zur Grundlagenforschung Tandem-Projekte mit der Industrie konzipiert werden. Auch bezüglich der finanziellen Fördermittel für die KI-Forschung in Deutschland stehen wir im internationalen Vergleich gut da. Denkbar wäre künftig, dass bei staatlichen Ausschreibungen – etwa zum Thema urbane Mobilität – nicht das preiswerteste Angebot, sondern das innovativste Projekt den Zuschlag bekommt. Beschaffungsbehörden in den USA und China praktizieren das schon so und häufig bekommen dann auch innovative KI-Start-ups den Zuschlag. Dafür braucht es von staatlicher Seite hin und wieder mehr Risikobereitschaft, um Innovation rasch in die Anwendung zu bringen, etwa im Verwaltungsbereich oder der Energieversorgung.

Wie sieht es bei Transfer und Anwendung aus? Werden hier die richtigen Akzente gesetzt?

Rückert: Der regulatorische Rahmen in Deutschland und Europa muss eine Balance finden, wie man KI-Innovationen fördert und gleichzeitig den Menschen schützt. Bei den nationalen Förderprogrammen für KI ist es wichtig, dass die Fördergelder zielgerichtet eingesetzt und etwa die deutschen Stärken der Industrie gezielt unterstützt werden. Diese liegen in der Herstellung von komplexen physischen Produkten, der digitalen Kombination von Maschinen- und Produktdaten sowie der Etablierung von Ökosystemen zwischen Start-ups, Wissenschaft, KMU und der Großindustrie. Zuletzt muss bei der politischen Weichenstellung auch überprüft werden, ob man die verschiedenen Förderinitiativen noch etwas stärker aufeinander abstimmen könnte, um Kräfte zu bündeln und Fördergelder effizient einzusetzen.  

Wie lassen sich Bürgerinnen und Bürger vom Nutzen der Künstlichen Intelligenz überzeugen? Was kann eine Zertifizierung von KI dazu beitragen?

Wahlster: Der erfolgreiche Einsatz von KI-Systemen setzt immer das Vertrauen der Menschen voraus. Das können wir nur durch selbsterklärende Systeme erreichen, die in der Lage sind, einen Entscheidungsvorschlag nachvollziehbar zu machen. Ganz entscheidend sind daher die Erklärungsfähigkeit und die Transparenz der KI-Systeme. Zudem müssen die Daten, die zum Lernen verwendet werden, fehler- und vorurteilsfrei sein und aus vertrauenswürdigen Quellen stammen. Da es eine verschärfte Produkthaftung gibt, ist eine Zertifizierung von KI-Systemen nicht nur für Kundinnen und Kunden, sondern auch für die Industrie wichtig, um rechtlich nicht für fehlerbehaftete Systeme belangt werden zu können. Daher bemüht sich auch die Industrie stark um Standards und Normen, die dann zu einer Zertifizierung von KI-Produkten führen können. Hinzu kommt: Wer die Standards in diesem Bereich setzt, beherrscht später auch den Markt. Daher haben wir jetzt im Auftrag der Bundesregierung als erstes Land eine Normungsroadmap für KI ausgearbeitet.

Wie bewerten Sie die Zertifizierung von KI aus Unternehmensperspektive?

Rückert: Jedes Unternehmen muss das für sich individuell bewerten. Bei Bosch hat das Thema Ethik und KI einen sehr hohen Stellenwert, dazu wurde ein KI-Kodex entwickelt, der Leitlinien definiert. Jedes KI-Produkt muss dieser Vorgabe entsprechen. Darüber hinaus müssen bestimmte rechtliche Vorgaben und ethische Grundsätze bei der Produktentwicklung berücksichtigt werden: KI soll dem Menschen als Werkzeug dienen. Diese Leitlinien sind mittlerweile auch Teil des Softwareentwicklungsprozesses geworden. Wir verbinden so ein wertebasiertes Vorgehen mit technischer Exzellenz – während sich letztere weiterentwickelt, bleibt die Wertebasis gleich. Dabei gibt es aber auch rote Linien: Eine Künstliche Intelligenz kann keine Abwägung zwischen den Interessen von Individuen oder Gruppen vornehmen. Diese roten Linien werden aktuell bei verschiedenen Unternehmen auch noch unterschiedlich gezogen. Bei Bosch ziehen wir diese Linie etwas konservativer und legen den Fokus auf Qualität und Zuverlässigkeit.

Andere Unternehmen interpretieren diese roten Linien anders. Braucht es daher ein verbindliches KI-Siegel, um Verbraucherinnen und Verbrauchern Orientierung bezüglich der Sicherheit der Systeme zu geb

Rückert: Für den einzelnen Verbraucher hilft es natürlich, eine neutrale Instanz zu haben, die Leitlinien gibt, an die sich Unternehmen bei der Entwicklung oder Herstellung von KI-Produkten halten müssen. Auch innerhalb der Plattform Lernende Systeme hat sich eine Arbeitsgruppe mit diesem Thema beschäftigt und im Frühjahr 2020 ein Impulspapier zur Zertifizierung von KI Systemen veröffentlicht. Darin wird ausführlich diskutiert, wie die Zertifizierung von KI-Systemen zu mehr Vertrauen in diese Technologie führen kann.

Wahlster: Die Zivilgesellschaft fordert für risikobehaftete KI-Produkte und Dienstleistungen Zertifikate. Eine Überregulierung wäre aber falsch, da es keinen Sinn macht, jeden Chatbot, der Kochrezepte empfiehlt, zu zertifizieren. Doch wir müssen auf rote Linien achten und diese werden in Deutschland und Europa durch gemeinsame Grundwerte definiert. Dazu gehören die Würde des Menschen und die Selbstbestimmtheit. Die verschiedenen Einsatzmöglichkeiten von KI lassen sich in einer Risikopyramide klassifizieren: An der Spitze der Pyramide sind Prozesse angeordnet, die absolut verboten sind. Dazu zählt etwa die Gehirn-zu-Gehirn-Kommunikation oder die Stimulation eines Gehirns, um einen Menschen außerhalb einer rein medizinischen Anwendung unwillentlich Handlungen ausführen zu lassen. Auch autonome Waffensysteme auf Basis von KI-Systemen, die sich ihre Opfer selbst gezielt aussuchen, sind nach unseren Grundsätzen unethisch. Am unteren Ende der Pyramide finden sich Anwendungen, etwa die genannten Chatbots für Kochrezepte. Hier sollte möglichst keine Regulierung erfolgen, da sonst Innovationen erschwert werden. Es ist also notwendig, Risiken zu bewerten, um dann zu einer angemessenen Regulierung zu kommen, die nicht innovationshemmend ist.

Wie unterscheiden sich die Prinzipien zu Entwicklung und Einsatz von KI international?

Rückert: Im internationalen Vergleich ist Deutschland beim Thema KI sicherlich auf der konservativeren, risikoaverseren Seite zu verorten. So ist es beispielsweise in China sehr viel leichter, an Daten zu kommen, was das Lernen einer KI natürlich erleichtert. Auch in den USA sind die Regularien – vor allem im Consumerbereich – nicht so eng gefasst. Das heißt, wir sind hier in Deutschland sicher kritischer. Umgekehrt können hohe Standards bei Datenschutz und Privatsphäre für eine KI „made in Germany“ zum weltweiten Alleinstellungsmerkmal und Qualitätssiegel werden, solange das Pendel nicht in Richtung Überregulierung ausschlägt.

Welchen Beitrag leisten Initiativen wie die Plattform Lernende Systeme, um KI-Forschung und -Anwendung weiter voranzubringen?

Rückert: Das Schlimmste, was beim Thema KI passieren kann, sind Silos: Die Industrie prescht voran, Start-ups und Wissenschaft ziehen in verschiedene Richtungen und die Politik versucht, das einzufangen. Das Ökosystem von Industrie, Start-ups, Wissenschaft, Politik – so mühsam das teilweise auch ist – ist essenziell, damit wir beim Thema KI mit einer Stimme vorangehen können. Die Plattform Lernende Systeme leistet – zusammen mit anderen Initiativen der Bundesregierung – für dieses koordinierte Vorgehen einen wichtigen Beitrag, da dort Wissenschaft, Wirtschaft und Politik unter einen Hut gebracht werden. Die Plattform Lernende Systeme kann zudem einen großen Beitrag für die Akzeptanz dieser Technologie leisten und die gesellschaftliche Debatte zum Thema KI erweitern: Wir haben sehr gute Publikationen mit prägnanten Beispielen und die KI-Landkarte veranschaulicht mit mehr und mehr Anwendungsbeispielen die positiven Nutzungspotenziale von Künstlicher Intelligenz. Dadurch entsteht Vertrauen bei Bürgerinnen und Bürgern. 

Wahlster: Ich möchte das unterstreichen: Die Stärke der Plattform Lernende Systeme liegt in der gemischten Zusammensetzung von Mitgliedern aus Politik, Wissenschaft, Unternehmen und Verbänden. Ebenfalls sehr wichtig finde ich, dass die Plattform Lernende Systeme versucht, Wissen über KI breit speziell im Mittelstand zu streuen, und mit Initiativen wie dem KI-Campus auch eine solide Ausbildung in KI für die breite Bevölkerung gezielt unterstützt. Dies müssen wir weiter verstärken, damit sich auch Unternehmensgründer und Mittelständler zum Thema KI informieren und Unterstützung erhalten können, um neue KI-basierte Lösungen erfolgreich im Markt zu etablieren.

Expertenbeitrag erschienen in:

Fortschrittsbericht der Plattform Lernende Systeme
Dezember 2020