Richterliche Verantwortung und Künstliche Intelligenz: Zur Abgrenzung zwischen unzulässiger Ersetzung und zulässiger Unterstützung des menschlichen Richte…

Dr. Dipl.-Jur Moritz Köhler

doi:10.5771/9783748970927

Zusammenfassung

Künstliche Intelligenz darf den Richter unterstützen, ihn aber nicht ersetzen – doch wo verläuft diese Grenze konkret? Aus der Rechtsprechung des Bundesverfassungsgerichts lässt sich eine richterliche Pflicht zur eigenverantwortlichen Aufgabenwahrnehmung ableiten. Anhand zahlreicher Praxisbeispiele untersucht der Autor, wie der inhaltliche Einfluss algorithmischer und sonstiger fremder Erwägungen auf die Entscheidungsfindung mit der richterlichen Eigenverantwortung in Einklang zu bringen ist. Darauf aufbauend entwickelt die Arbeit ein Modell zur Abgrenzung zulässiger richterlicher Unterstützung von unzulässiger Ersetzung. Sie liefert damit Orientierung für Justiz, Gesetzgebung und Rechtswissenschaft in Zeiten wachsender Digitalisierung.

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Auflage: 1/2026
Copyrightjahr: 2026
ISBN-Print: 978-3-7560-3940-1
ISBN-Online: 978-3-7489-7092-7
Verlag: Nomos, Baden-Baden
Reihe: Neue Schriften zum Staatsrecht
Band: 19
Sprache: Deutsch
Seiten: 336
Produkttyp: Monographie

Inhaltsverzeichnis

KapitelSeiten

1. Vorwort Kein Zugriff
2. Abkürzungsverzeichnis Kein Zugriff
1. 1. 1. I. Grundlagen der Informationsverarbeitung Kein Zugriff
    2. 1. 1. Funktionsweise Kein Zugriff
      2. 2. Einsatz von juristischen Expertensystemen Kein Zugriff
    3. III. Fallbasiertes Schließen Kein Zugriff
    4. 1. 1. Ziele des maschinellen Lernens Kein Zugriff
      2. 2. Praktische Umsetzung in neuronalen Netzen Kein Zugriff
      3. 3. Natural Language Processing Kein Zugriff
  2. B) Definition des algorithmischen Systems Kein Zugriff
  3. 1. I. Herausforderungen bei der Definition des KI-Begriffs Kein Zugriff
    2. 1. 1. Ableitungsfähigkeit als wesentliches Definitionsmerkmal Kein Zugriff
      2. 2. Bezugspunkt der Ableitungsfähigkeit Kein Zugriff
2. 1. 1. 1. 1. Beschreibung bei Skitka, Mosier und Burdick Kein Zugriff
      2. 2. Streit um Existenz und Wirkungen Kein Zugriff
      3. 3. Maßnahmen zur Reduzierung Kein Zugriff
    2. 1. 1. Ankereffekt in der Justiz Kein Zugriff
      2. 2. Nachweise Kein Zugriff
      3. 3. Maßnahmen zur Reduzierung Kein Zugriff
    3. III. Selective adherence Kein Zugriff
  2. B) Nachvollziehbarkeit Kein Zugriff
3. 1. 1. I. Schutz der Menschenwürde Kein Zugriff
    2. 1. 1. Sachverhalt im Verfahren Ligue des droits humains Kein Zugriff
      2. 2. Wertungen der PNR-Richtlinie Kein Zugriff
      3. 3. Entscheidung des Europäischen Gerichtshofs Kein Zugriff
      4. 4. Folgerung Kein Zugriff
      5. 5. Stellungnahme Kein Zugriff
    3. III. Diskriminierungsverbot Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  2. 1. I. Anwendbarkeit auf KI-Systeme im Einsatz der Justiz Kein Zugriff
    2. II. Zweck und Regulierungsansatz Kein Zugriff
    3. 1. a) Verhältnis zwischen Mensch und KI-System Kein Zugriff
        b) Einsatz von KI-Systemen in der Justiz Kein Zugriff
      2. a) Grundsatz Kein Zugriff
        b) Ausnahme für assistierendes Predictive Policing Kein Zugriff
      3. a) Klassifikation von KI-Systemen im Einsatz der Justiz Kein Zugriff
        b) „Menschliche Ausdifferenzierung“ Kein Zugriff
        c) Überwachung des Betriebs Kein Zugriff
        d) Menschliche Aufsicht Kein Zugriff
      4. a) Privilegierung einzelner Systeme Kein Zugriff
        b) Ausnahmetatbestände im Einzelnen Kein Zugriff
        c) Wertung des europäischen Gesetzgebers Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  3. 1. I. Anwendbarkeit in Gerichtsverfahren Kein Zugriff
    2. 1. aa) Ausschluss von entscheidungsvorbereitenden Maßnahmen Kein Zugriff
        bb) Entscheidung des Europäischen Gerichtshofs Kein Zugriff
        cc) Kritik Kein Zugriff
        aa) Übertragbarkeit auf Zwei-Personen-Verhältnisse Kein Zugriff
        bb) Übertragbarkeit auf andere Score-Werte Kein Zugriff
        cc) Übertragbarkeit auf andere Entscheidungsvorschläge Kein Zugriff
        c) Zwischenergebnis Kein Zugriff
      2. 2. Keine erforderliche Komplexität Kein Zugriff
    3. III. Automatisierte Verarbeitung Kein Zugriff
    4. 1. 1. Beschränkung auf nachteilige Wirkungen Kein Zugriff
      2. 2. Einführung des Kriteriums der Maßgeblichkeit Kein Zugriff
    5. 1. 1. Maßstab der Beurteilung Kein Zugriff
      2. 2. Formale Zwischenschaltung Kein Zugriff
      3. a) Nicht ausreichend: Möglichkeit der inhaltlichen Einflussnahme Kein Zugriff
        b) Pflicht zur inhaltlichen Auseinandersetzung Kein Zugriff
      4. a) Kompetenz als Grundvoraussetzung Kein Zugriff
        b) Plausibilitätsprüfung Kein Zugriff
        aa) Begründung Kein Zugriff
        bb) Ausnahmsweise Erforderlichkeit Kein Zugriff
        aa) Auffassung des LG Bamberg Kein Zugriff
        bb) Stellungnahme Kein Zugriff
      5. a) Erste Stufe: Unwesentlicher Einfluss des algorithmischen Systems Kein Zugriff
        b) Zweite Stufe: Plausibilitätsprüfung Kein Zugriff
        c) Dritte Stufe: Eigene inhaltliche Abwägung Kein Zugriff
    6. 1. 1. Anforderungen an Rechtsgrundlagen Kein Zugriff
      2. 2. KI-VO als Rechtsgrundlage? Kein Zugriff
    7. VII. Zwischenergebnis und Ausblick auf den Digitalen Omnibus Kein Zugriff
  4. 1. I. Verbot der rein algorithmischen Aufgabenwahrnehmung Kein Zugriff
    2. 1. 1. Formale Zwischenschaltung Kein Zugriff
      2. 2. Formelle Hoheit (Human-on-the-Loop und Human-in-Command) Kein Zugriff
      3. 3. Unwesentliche Beeinflussung Kein Zugriff
      4. 4. Materielle Hoheit (Human-in-the-Loop) Kein Zugriff
1. 1. 1. I. Historisches Begriffsverständnis Kein Zugriff
    2. 1. a) Sachliche Unabhängigkeit Kein Zugriff
        b) Persönliche Unabhängigkeit Kein Zugriff
      2. 2. Unparteilichkeit Kein Zugriff
      3. 3. Fachliche und persönliche Kompetenz Kein Zugriff
      4. 4. Hypothetisch: Qualifizierung algorithmischer Systeme Kein Zugriff
    3. 1. 1. Anvertrauensformel Kein Zugriff
      2. 2. Personaler Charakter der Vorschrift Kein Zugriff
      3. a) Wechselwirkung zwischen Macht und Verantwortung Kein Zugriff
        aa) Der Begriff der Verantwortung Kein Zugriff
        bb) Übernahme von Verantwortung durch algorithmische Systeme Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  2. 1. 1. a) Kritik am dogmatischen Ansatz Kein Zugriff
        b) Schwierigkeiten in der Anwendung Kein Zugriff
      2. 2. Traditionelle Kernbereiche der Rechtsprechung Kein Zugriff
      3. 3. Gesetzgeberische Qualifizierungen Kein Zugriff
      4. 4. Zwischenergebnis Kein Zugriff
    2. 1. 1. Stand der Literatur Kein Zugriff
      2. 2. Stellungnahme Kein Zugriff
2. 1. 1. I. Kernbereich richterlicher Tätigkeit Kein Zugriff
    2. II. Verletzung der eigenen Unabhängigkeit Kein Zugriff
  2. 1. I. Verbot Kein Zugriff
    2. II. Formelle Hoheit Kein Zugriff
    3. 1. a) Schlüssigkeitsprüfung Kein Zugriff
        b) Kritisches Hinterfragen Kein Zugriff
      2. a) Kenntnis der wesentlichen Entscheidungsprinzipien Kein Zugriff
        b) Kenntnis sämtlicher Entscheidungsparameter Kein Zugriff
      3. 3. Keine Überprüfung bei vollständiger Nachvollziehbarkeit Kein Zugriff
      4. 4. Zwischenergebnis Kein Zugriff
  3. 1. 1. 1. Wortlaut Kein Zugriff
      2. 2. Systematik Kein Zugriff
      3. 3. Historie Kein Zugriff
      4. 4. Telos Kein Zugriff
      5. 5. Zwischenergebnis Kein Zugriff
    2. 1. 1. Keine unmittelbare Vergleichbarkeit Kein Zugriff
      2. 2. Keine strukturelle Vergleichbarkeit Kein Zugriff
    3. III. Richterliche Unabhängigkeit als verfassungsrechtlicher Teilaspekt Kein Zugriff
3. 1. 1. 1. 1. Gesetzesbindung und Weisungsfreiheit Kein Zugriff
      2. 2. Grundgesetzliche Aufgabenzuweisung Kein Zugriff
      3. 3. Verhältnis zur richterlichen Unabhängigkeit Kein Zugriff
    2. II. Anwendungsbereich Kein Zugriff
  2. 1. I. Eigene Überzeugung als höchstpersönlicher Umstand Kein Zugriff
    2. II. Eigene Überzeugung als Grundlage eigener Verantwortung Kein Zugriff
    3. 1. 1. Freie Beweiswürdigung und eigene Überzeugung Kein Zugriff
      2. a) Bestimmung der Überzeugung anhand subjektiver und objektiver Faktoren Kein Zugriff
        b) Algorithmische Systeme als objektive Grundlage der subjektiven Überzeugung? Kein Zugriff
      3. 3. Bedeutung der verfassungsrechtlichen und einfachgesetzlichen Überzeugung Kein Zugriff
      4. 4. Erkenntnisse für die Überzeugung im verfassungsrechtlichen Sinne Kein Zugriff
  3. 1. 1. 1. Anträge und Erklärungen einer Behörde Kein Zugriff
      2. 2. Argumentation der Verfahrensbeteiligten Kein Zugriff
      3. 3. Recherchen Kein Zugriff
      4. 4. Folgerungen Kein Zugriff
    2. 1. 1. „Delegationsverbot“ im Rahmen der freien Beweiswürdigung Kein Zugriff
      2. a) Sachverständigenbeweis Kein Zugriff
        b) Referendare Kein Zugriff
        c) Vorbereitender, beauftragter und ersuchter Richter sowie Berichterstatter Kein Zugriff
      3. a) Ermächtigungsgrundlage Kein Zugriff
        b) Zuständigkeit des Richters Kein Zugriff
        c) Leitung der beauftragten Stelle Kein Zugriff
        d) Plausibilitätsprüfung Kein Zugriff
    3. 1. 1. Ausführung einer Tätigkeit durch den Richter Kein Zugriff
      2. 2. Ausführung einer Tätigkeit durch den wissenschaftlichen Mitarbeiter Kein Zugriff
4. 1. 1. 1. a) Ausführungen zum Einsatz informationstechnischer Systeme Kein Zugriff
        b) Folgerungen Kein Zugriff
      2. a) Ausführungen zum Einsatz informationstechnischer Systeme Kein Zugriff
        b) Folgerungen Kein Zugriff
      3. a) Ausführungen zum Einsatz informationstechnischer Systeme Kein Zugriff
        b) Folgerungen Kein Zugriff
      4. a) Ausführungen zum Einsatz informationstechnischer Systeme Kein Zugriff
        b) Folgerungen Kein Zugriff
      5. a) Ausführungen zum Einsatz informationstechnischer Systeme Kein Zugriff
        b) Folgerungen Kein Zugriff
      6. 6. Zwischenergebnis Kein Zugriff
    2. II. Berücksichtigung der systemimmanenten Risiken Kein Zugriff
  2. 1. 1. 1. SAE-Level in der Justiz Kein Zugriff
      2. 2. Keine Übertragbarkeit auf die Automatisierung der Justiz Kein Zugriff
      3. 3. Erkenntnisse aus der Unterteilung in Teilaufgaben Kein Zugriff
      4. 4. Erforderlichkeit einer Anpassung der SAE-Level Kein Zugriff
    2. 1. 1. Assistiertes Entscheiden Kein Zugriff
      2. 2. Teilweises Entscheiden Kein Zugriff
      3. 3. Geprüftes Entscheiden Kein Zugriff
      4. 4. Delegiertes Entscheiden Kein Zugriff
      5. 5. Autonomes Entscheiden Kein Zugriff
      6. 6. Erkenntnisse aus der Differenzierung des Bitkom Kein Zugriff
    3. 1. 1. Assistenzsystem Kein Zugriff
      2. 2. Delegation Kein Zugriff
      3. 3. Autonome Entscheidung Kein Zugriff
      4. 4. Erkenntnisse aus der Verwaltungsautomatisierung in Schleswig-Holstein Kein Zugriff
    4. 1. 1. Algorithmenbasierte Entscheidungen Kein Zugriff
      2. 2. Algorithmengetriebene Entscheidungen Kein Zugriff
      3. 3. Algorithmendeterminierte Entscheidungen Kein Zugriff
      4. 4. Erkenntnisse aus dem Modell der Datenethikkommission Kein Zugriff
    5. 1. 1. Vollständig technisch erzeugbare Entscheidung unter Ausschluss des Menschen Kein Zugriff
      2. 2. Automationsgeleitete menschliche Entscheidung Kein Zugriff
      3. 3. Automationsgestützte menschliche Entscheidung Kein Zugriff
      4. 4. Erkenntnisse aus dem Modell Munds Kein Zugriff
    6. 1. 1. Elektronifizierung Kein Zugriff
      2. 2. Teilautomatisierung Kein Zugriff
      3. 3. Vollautomatisierung Kein Zugriff
      4. 4. Einsatz „selbstlernender Algorithmen“ Kein Zugriff
      5. 5. Erkenntnisse aus den Stufen der Verwaltungsdigitalisierung nach Ludwigs und Velling Kein Zugriff
    7. VII. Zusammenfassung der Erkenntnisse Kein Zugriff
5. 1. 1. 1. 1. Wertungen der KI-Verordnung Kein Zugriff
      2. 2. Autonome Auslegung des Begriffs der inhaltlichen Beeinflussung Kein Zugriff
    2. II. Maßgabe Kein Zugriff
  2. 1. I. Formelle und materielle Hoheit Kein Zugriff
    2. II. Kompetenz als Grundvoraussetzung Kein Zugriff
    3. III. Umfassende inhaltliche Prüfung Kein Zugriff
    4. 1. 1. Komplexität Kein Zugriff
      2. 2. Automatisierungsgrad Kein Zugriff
      3. 3. Funktionale Nachvollziehbarkeit Kein Zugriff
    5. V. Angemessenheit als notwendig offenes Abgrenzungskriterium Kein Zugriff
  3. 1. I. Ausschluss von Ansätzen des maschinellen Lernens Kein Zugriff
    2. II. Kenntnis sämtlicher Entscheidungsparameter Kein Zugriff
    3. III. Exemplarische Rechtsgrundlage Kein Zugriff
  4. D) Vollautonome Aufgabenübernahme Kein Zugriff
6. 1. 1. 1. 1. Richterliche Tätigkeit Kein Zugriff
      2. 2. Akzessorietät Kein Zugriff
    2. II. Eigenverantwortliche Aufgabenwahrnehmung Kein Zugriff
  2. 1. I. Recht auf Information Kein Zugriff
    2. II. Recht zur Stellungnahme Kein Zugriff
    3. 1. aa) Kenntnisnahme in Kollegialorganen Kein Zugriff
        bb) Bedeutung für algorithmische Systeme und Massenverfahren Kein Zugriff
        cc) Folgen fehlerhafter Zusammenfassungen Kein Zugriff
        b) Pflicht zur Prüfung der Richtigkeit Kein Zugriff
      2. a) Übernahme fremder Erwägungen Kein Zugriff
        b) Keine formularmäßige Fassung ohne einzelfallbezogenen Hinweis Kein Zugriff
        c) Bedeutung für den Einsatz algorithmischer Systeme Kein Zugriff
        d) Verwendung von Textbausteinen und richterliche Unabhängigkeit Kein Zugriff
  3. C) Sicherung eines fairen Verfahrens Kein Zugriff
1. 1. 1. 1. 1. Informationsextraktion Kein Zugriff
      2. 2. Informationsabruf Kein Zugriff
    2. II. Dokumentenerstellung Kein Zugriff
    3. 1. 1. Juristische Expertensysteme Kein Zugriff
      2. a) Metadaten Kein Zugriff
        b) Sprachsysteme Kein Zugriff
  2. 1. 1. 1. Funktionsbeschreibung Kein Zugriff
      2. a) Veraktung Kein Zugriff
        b) Beteiligtenerkennung Kein Zugriff
    2. II. Text- und Sprachverarbeitung Kein Zugriff
    3. 1. a) Hervorhebung Kein Zugriff
        b) Strukturierung durch Tags Kein Zugriff
        c) Prüfassistent Kein Zugriff
      2. a) Eigenverantwortlichkeit der materiellen Entscheidungsvorbereitung Kein Zugriff
        b) Berücksichtigung des Anspruchs auf rechtliches Gehör Kein Zugriff
    4. 1. 1. Funktionsbeschreibung Kein Zugriff
      2. a) Eigenverantwortlichkeit der materiellen Entscheidungsvorbereitung Kein Zugriff
        b) Berücksichtigung des Anspruchs auf rechtliches Gehör Kein Zugriff
        c) Grenzen des Einsatzes algorithmischer Systeme zum Entwurf von Entscheidungen Kein Zugriff
  3. 1. 1. 1. Stichwortsuchen in juristischen Datenbanken Kein Zugriff
      2. 2. Semantische Suchfunktionen Kein Zugriff
    2. 1. 1. Reichweite des Richtermonopols Kein Zugriff
      2. 2. Eingliederung in den Instanzenzug Kein Zugriff
    3. III. Rechtliche Hinweise Kein Zugriff
    4. IV. Automatisierte Vergleichsvorschläge Kein Zugriff
    5. 1. 1. Anwendungsfall der Delegation Kein Zugriff
      2. 2. Rückgriff auf Low- und No-Code-Software Kein Zugriff
    6. 1. 1. Systembeschreibung durch Quack Kein Zugriff
      2. a) „Algorithmisches Grundsystem“ Kein Zugriff
        b) „KI-Bausteine“ Kein Zugriff
    7. VII. Einsatz algorithmischer Systeme durch Sachverständige Kein Zugriff
2. 1. 1. 1. a) Der gesetzliche Richter Kein Zugriff
        aa) Entzug durch die Legislative, Exekutive und Judikative Kein Zugriff
        bb) Entzug durch übermäßigen Einsatz algorithmischer Systeme Kein Zugriff
        c) Keine Übertragbarkeit der Willkürlichkeitsrechtsprechung Kein Zugriff
      2. 2. Justizgewährungsansprüche Kein Zugriff
      3. 3. Anspruch auf rechtliches Gehör Kein Zugriff
      4. 4. Menschenwürde Kein Zugriff
    2. 1. aa) Verfassungsrechtliche Anforderungen an den Richter Kein Zugriff
        bb) Vorschriftswidrige Benennung Kein Zugriff
        b) Besetzung des erkennenden Gerichts Kein Zugriff
        c) Zwischenergebnis Kein Zugriff
      2. 2. Absoluter Revisionsgrund de lege ferenda? Kein Zugriff
    3. 1. a) Beamter in Ausübung eines öffentlichen Amtes Kein Zugriff
        b) Schuldhafte Verletzung einer drittbezogenen Amtspflicht Kein Zugriff
        c) Verursachung eines Schadens Kein Zugriff
        d) Privilegierung des Richters Kein Zugriff
        e) Umleitung der Haftung Kein Zugriff
      2. a) Verhältnis der entwickelten Modelle Kein Zugriff
        aa) Entscheidung über Zweck und Mittel der Datenverarbeitung Kein Zugriff
        bb) Exzess des Richters Kein Zugriff
        c) Keine Exkulpation Kein Zugriff
        d) Anwendbarkeit von Art. 34 Satz 1 GG Kein Zugriff
  2. 1. 1. 1. Elementarer Verstoß gegen die Rechtspflege Kein Zugriff
      2. 2. Konkrete Gefahr einer falschen Entscheidung Kein Zugriff
    2. II. Geldbußen Kein Zugriff
    3. III. Dienstaufsichtsrechtliche Maßnahmen Kein Zugriff
    4. IV. Richteranklage Kein Zugriff
  3. 1. 1. 1. Allgemeine Nachweispflichten in der Entscheidungsbegründung Kein Zugriff
      2. 2. Besondere Nachweispflichten Kein Zugriff
    2. II. Datenschutzrechtlicher Auskunftsanspruch Kein Zugriff
    3. 1. 1. Voraussetzungen Kein Zugriff
      2. a) Beschränkung auf Hochrisiko-KI-Systeme Kein Zugriff
        b) Beschränkung auf rechtliche Auswirkungen Kein Zugriff
      3. 3. Verhältnis zu Art. 22 Abs. 3 DS-GVO Kein Zugriff
    4. 1. 1. Voraussetzungen und Inhalt Kein Zugriff
      2. a) Anwendbarkeit auf die Entscheidungsvorbereitung Kein Zugriff
        b) Durchbrechung des Beratungsgeheimnisses Kein Zugriff
      3. 3. Begründungspflicht oder Auskunftsanspruch? Kein Zugriff
Literaturverzeichnis Kein Zugriff Seiten 307 - 330
Register Kein Zugriff Seiten 331 - 336