KI im Rechtswesen: Chancen und Herausforderungen für die Demokratie

Künstliche Intelligenz (KI) kann das Rechtssystem entlasten und grundsätzlich zu gerechteren und transparenten Urteilen und Verfahren beitragen. Demgegenüber stehen aktuell noch qualitative Schwächen von KI-Systemen in Rechtsanwendungen sowie ethische und rechtliche Bedenken. Ein aktuelles Whitepaper der Plattform Lernende Systeme gibt einen Überblick über mögliche Anwendungen von KI-Systemen im Umfeld gerichtlicher Entscheidungen und adressiert Gestaltungsoptionen, wie der Einsatz von KI in Kanzlei und Gerichtssaal gelingt.

München, 4. September 2024 – Das Justizsystem in Deutschland ist zunehmend überlastet. Nach Angaben des Deutschen Richterbundes blieben im vergangenen Jahr bundesweit mehr als 900.000 Verfahren offen – deutlich mehr als in den Jahren davor. KI-Technologie verspricht für das Rechtwesen mehr Effizienz und vielfältige Einsatzmöglichkeiten: Am einen Ende stehen Systeme mit geringer Autonomie, etwa Chat-Bots, die Privatpersonen automatisiert Informationen für die juristische Selbsthilfe anbieten. Rechtsanwälte und -anwältinnen können sich von KI-gestützten Tools bei der Recherche von Gesetzestexten und der Vorhersage von Urteilen unterstützen oder Schriftsätze erstellen lassen. Am anderen Ende stehen Programme, die für die richterliche Entscheidungsfindung Empfehlungen geben, etwa ob eine Strafe zur Bewährung ausgesetzt werden soll. Den Höhepunkt einer solchen Entwicklung bilden schlussendlich automatisierte Urteile eines sogenannten „Roboterrichters“, die in Deutschland zum gegenwärtigen Zeitpunkt verfassungsrechtlich nicht möglich sind.

Dabei sind Rechtsstaatlichkeit und eine unabhängige Justiz zentrale Bausteine und Bedingungen einer freiheitlichen Demokratie. Die Autorinnen und Autoren des Whitepapers „Künstliche Intelligenz und Recht - Auf dem Weg zum Robo-Richter?“ betonen, dass Technologien, die auf diesen sensiblen Bereich der Gesellschaft Einfluss nehmen, deshalb verfassungsrechtlichen Vorgaben und ethischen Prinzipien entsprechen müssen. Als weitere Herausforderungen des KI-Einsatzes im Rechtswesen nennen die Expertinnen und Experten die (noch) zu geringe Qualität von KI-Systemen in Rechtsanwendungen und den Datenschutz, der besonders bei der Nutzung von Cloud-basierten Sprachmodellen problematisch wird. Auch kann ein KI-System durch die Analyse der objektiven Fakten der Komplexität eines Rechtsstreits vor Gericht nicht vollkommen gerecht werden, da es weiche Faktoren wie Empathie oder Augenmaß nicht analysieren kann. Recht ist nicht statisch, sondern entwickelt sich ständig dynamisch weiter. KI-basierte Prognosesysteme setzten hingegen zu einem beliebigen Status quo einen Anker in der Rechtsauslegung, so die Autorinnen und Autoren.

Vertrauen in Demokratie und Rechtsstaatlichkeit

Vertrauen in eine unabhängig und gerecht arbeitende Justiz ist Grundvoraussetzung für eine funktionierende Demokratie. Ein prägender Faktor dafür ist Transparenz, so Frauke Rostalski, Professorin für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung an der Universität zu Köln sowie Mitglied der Plattform Lernende Systeme und Co-Autorin des Whitepapers: „KI-Systeme bergen die Gefahr, sog. “Black Boxes” zu sein. Beim unterstützenden Einsatz in der Urteilsfindung muss umso mehr auf eine hinreichende Erklärung und Begründung etwaiger Vorschläge geachtet werden. Nur auf diese Weise kann gesellschaftliche Akzeptanz für die Entscheidung und somit Rechtsfrieden geschaffen werden.“

Die Gesellschaft müsse in einem offenen und gleichberechtigten Aushandlungsprozess eine Entscheidung treffen, ob – und wenn ja, in welchem Umfang – sie KI-Unterstützung im und für das Rechtssystem möchte, heißt es im Whitepaper. Darüber hinaus unterstreichen die Autorinnen und Autoren, dass die letzte Entscheidung bei jedem KI-Einsatz im Rechtswesen immer beim Menschen verbleiben müsse. Zur grundsätzlichen Akzeptanz von KI-Beteiligungen im Rechtswesen könnte auch das Recht beitragen, die Beteiligung von KI an Urteilen abzulehnen. Juristinnen und Juristen müssten zudem KI-Kompetenzen aufbauen. Bund und Länder sollten die finanziellen Ressourcen zur Verfügung stellen, um KI-Systeme für das Rechtswesen unabhängig von privaten Unternehmen zu entwickeln.

Über das Whitepaper

Das Whitepaper „Künstliche Intelligenz und Recht - Auf dem Weg zum Robo-Richter?“ wurde von Mitgliedern der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme verfasst. Die Publikation steht unter diesem Link zum kostenfreien Download bereit.