AG 3: IT-Sicherheit, Privacy, Recht und Ethik

Lernende Systeme haben das Potenzial, viele Prozesse effizienter, für den Menschen komfortabler und sicherer zu machen. Voraussetzung: Sie funktionieren stets verlässlich und sind robust gegenüber Störungen, gezielten Angriffen oder unerwarteten Ereignissen. Denn mit ihrer zunehmenden Verbreitung werden auch vernetzte Lernende Systeme, ähnlich wie klassische Softwareanwendungen, zu potenziellen Angriffszielen für Attacken. Zudem stellen sich – wie bei nahezu allen technischen Innovationen – neue rechtliche Fragen, die in einen juristischen Rahmen gefasst werden müssen. Sie betreffen etwa die Haftung oder den Umgang mit persönlichen Daten. Was es aus ethisch-moralischer Sicht bedeutet, menschliche Kontrolle an Maschinen abzugeben, ist ebenso zu bewerten wie die Anforderungen an Fairness und Diskriminierungsfreiheit von KI-Entscheidungen.

Themen und Organisation der Arbeitsgruppe

Die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ thematisiert in zwei Unterarbeitsgruppen Fragen zur Sicherheit (Security), Zuverlässigkeit (Safety) und zum Umgang mit Privatheit (Privacy) bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen.

Jörn Müller-Quade

Detlef Houdeau

Jessica Heesen

Frauke Rostalski

Mitglieder der Unterarbeitsgruppe IT-Sicherheit und Privacy

Prof. Dr. Bernhard Beckert
Karlsruher Institut für Technologie (KIT)

Prof. Dr. Michael Decker
Karlsruher Institut für Technologie (für das Lenkungskreis-Mitglied Holger Hanselka)

Prof. Dr. habil. Claudia Eckert
Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC)

Marian Gläser
Brighter AI Technologies GmbH

Prof. Dr. Thorsten Holz
Ruhr-Universität Bochum

Prof. Dr. Michael Huth
Technische Universität Nürnberg, Xayn AG

Dr. Katharina Krombholz
CISPA – Helmholtz-Zentrum für Informationssicherheit

Andrea Martin
IBM Watson Center Munich

Prof. Dr. Konrad Rieck
Technische Universität Berlin

Peter Rost
Secunet Security Networks AG

Prof. Dr.-Ing. Ahmad-Reza Sadeghi
Technische Universität Darmstadt

Prof. Dr. Werner Schindler
Bundesamt für Sicherheit und Informationstechnik

Dr. Dirk Wacker
Giesecke+Devrient GmbH

Von den aufgeführten Personen liegt uns ein schriftliches Einverständnis zur Veröffentlichung ihrer Daten gemäß DSGVO vor. Diese Mitgliederliste stellt einen Auszug dar und wird laufend vervollständigt.

Mitglieder der Unterarbeitsgruppe Recht und Ethik

Prof. Dr. Susanne Beck
Gottfried Wilhelm Leibniz Universität Hannover

Prof. Dr. Christoph Bieber
Center for Advanced Internet Studies

Prof. Dr. Peter Dabrock
Friedrich-Alexander-Universität Erlangen-Nürnberg

Prof. Dr. Michael Decker
Karlsruher Institut für Technologie

Prof. Dr. Gerd Gigerenzer
Max-Planck-Institut für Bildungsforschung

Prof. Dr. Armin Grunwald
Karlsruher Institut für Technologie (KIT) / Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)

Prof. Dr. Klaus Heine
Erasmus University Rotterdam

Bernhard Hüngsberg
Deutsche Telekom AG

Anna Kaiser
Tandemploy GmbH

Andrea Martin
IBM Watson Center Munich

Prof. Dr. Anne Lauber-Rönsberg
Technische Universität Dresden

Prof. Dr. Tobias Matzner
Universität Paderborn

Prof. Dr. Catrin Misselhorn
Georg-August-Universität Göttingen

Prof. Dr. Christoph Neuberger
Freie Universität Berlin, Weizenbaum-Institut e.V.

Prof. Dr. Alexander Roßnagel
Universität Kassel

Sebastian Schreiber
SySS GmbH

Prof. Dr. Judith Simon
Universität Hamburg, Deutscher Ethikrat

Prof. Dr. Louisa Specht-Riemenschneider
Rheinische Friedrich-Wilhelms-Universität Bonn

Freek Staehr
SAP SE

Prof. Dr. Antje von Ungern-Sternberg
Universität Trier

Prof. Dr. Sandra Wachter
University of Oxford

Prof. Dr. Katharina Anna Zweig
Technische Universität Kaiserslautern

Leitfragen der Arbeitsgruppe

IT-Sicherheit und Privacy

Wie kann KI zum Schutz von IT-Systemen eingesetzt werden?
Welche neuen Bedrohungen entstehen, wenn Angreifer KI benutzen?
Was kann passieren, wenn KI-Systeme angegriffen werden und wie lassen sie sich schützen?
Wie kann ein flexiblerer Umgang mit (personenbezogenen) Daten für KI-Anwendungen ermöglicht und gleichzeitig das Recht auf informationelle Selbstbestimmung gewahrt bleiben?

Recht und Ethik

Welche Herausforderungen stellen Lernende Systeme in puncto Haftung, strafrechtlicher Verantwortung sowie juristischer und ethischer Grundlagenfragen?
Wie müssen sie gestaltet sein, damit sie menschliche Autonomie und Grundrechte wahren, Chancengleichheit sichern und Diskriminierung vermeiden?
Ist es sinnvoll, ein Recht auf Dateneigentum einzuführen?
Wie kann die Gesellschaft im Sinne der Teilhabe an der Implementierung Lernender Systeme mitwirken?
Welche Auswirkungen haben KI-Systeme auf die demokratische Ordnung in Gesellschaften?