Richterliche Verantwortung und Künstliche Intelligenz: Zur Abgrenzung zwischen unzulässiger Ersetzung und zulässiger Unterstützung des menschlichen Richte…

Dr. Dipl.-Jur Moritz Köhler

doi:10.5771/9783748970927

Summary

Artificial intelligence may support judges, but it must not replace them – but where exactly is the line? The case law of the Federal Constitutional Court suggests that judges have a duty to perform their duties on their own responsibility. Using numerous practical examples, the author examines how the influence of algorithmic and other external considerations on decision-making can be reconciled with judicial responsibility. Based on this, the work develops a model for distinguishing between permissible judicial support and impermissible replacement. It thus provides guidance for the judiciary, legislature and legal scholarship in times of increasing digitalisation.

Keywords

Search publication

Bibliographic data

Edition: 1/2026
ISBN-Print: 978-3-7560-3940-1
ISBN-Online: 978-3-7489-7092-7
Publisher: Nomos, Baden-Baden
Series: Neue Schriften zum Staatsrecht
Volume: 19
Language: German
Pages: 336
Product Type: Monograph

1. Vorwort No access
2. Abkürzungsverzeichnis No access
1. 1. 1. I. Grundlagen der Informationsverarbeitung No access
    2. 1. 1. Funktionsweise No access
      2. 2. Einsatz von juristischen Expertensystemen No access
    3. III. Fallbasiertes Schließen No access
    4. 1. 1. Ziele des maschinellen Lernens No access
      2. 2. Praktische Umsetzung in neuronalen Netzen No access
      3. 3. Natural Language Processing No access
  2. B) Definition des algorithmischen Systems No access
  3. 1. I. Herausforderungen bei der Definition des KI-Begriffs No access
    2. 1. 1. Ableitungsfähigkeit als wesentliches Definitionsmerkmal No access
      2. 2. Bezugspunkt der Ableitungsfähigkeit No access
2. 1. 1. 1. 1. Beschreibung bei Skitka, Mosier und Burdick No access
      2. 2. Streit um Existenz und Wirkungen No access
      3. 3. Maßnahmen zur Reduzierung No access
    2. 1. 1. Ankereffekt in der Justiz No access
      2. 2. Nachweise No access
      3. 3. Maßnahmen zur Reduzierung No access
    3. III. Selective adherence No access
  2. B) Nachvollziehbarkeit No access
3. 1. 1. I. Schutz der Menschenwürde No access
    2. 1. 1. Sachverhalt im Verfahren Ligue des droits humains No access
      2. 2. Wertungen der PNR-Richtlinie No access
      3. 3. Entscheidung des Europäischen Gerichtshofs No access
      4. 4. Folgerung No access
      5. 5. Stellungnahme No access
    3. III. Diskriminierungsverbot No access
    4. IV. Zwischenergebnis No access
  2. 1. I. Anwendbarkeit auf KI-Systeme im Einsatz der Justiz No access
    2. II. Zweck und Regulierungsansatz No access
    3. 1. a) Verhältnis zwischen Mensch und KI-System No access
        b) Einsatz von KI-Systemen in der Justiz No access
      2. a) Grundsatz No access
        b) Ausnahme für assistierendes Predictive Policing No access
      3. a) Klassifikation von KI-Systemen im Einsatz der Justiz No access
        b) „Menschliche Ausdifferenzierung“ No access
        c) Überwachung des Betriebs No access
        d) Menschliche Aufsicht No access
      4. a) Privilegierung einzelner Systeme No access
        b) Ausnahmetatbestände im Einzelnen No access
        c) Wertung des europäischen Gesetzgebers No access
    4. IV. Zwischenergebnis No access
  3. 1. I. Anwendbarkeit in Gerichtsverfahren No access
    2. 1. aa) Ausschluss von entscheidungsvorbereitenden Maßnahmen No access
        bb) Entscheidung des Europäischen Gerichtshofs No access
        cc) Kritik No access
        aa) Übertragbarkeit auf Zwei-Personen-Verhältnisse No access
        bb) Übertragbarkeit auf andere Score-Werte No access
        cc) Übertragbarkeit auf andere Entscheidungsvorschläge No access
        c) Zwischenergebnis No access
      2. 2. Keine erforderliche Komplexität No access
    3. III. Automatisierte Verarbeitung No access
    4. 1. 1. Beschränkung auf nachteilige Wirkungen No access
      2. 2. Einführung des Kriteriums der Maßgeblichkeit No access
    5. 1. 1. Maßstab der Beurteilung No access
      2. 2. Formale Zwischenschaltung No access
      3. a) Nicht ausreichend: Möglichkeit der inhaltlichen Einflussnahme No access
        b) Pflicht zur inhaltlichen Auseinandersetzung No access
      4. a) Kompetenz als Grundvoraussetzung No access
        b) Plausibilitätsprüfung No access
        aa) Begründung No access
        bb) Ausnahmsweise Erforderlichkeit No access
        aa) Auffassung des LG Bamberg No access
        bb) Stellungnahme No access
      5. a) Erste Stufe: Unwesentlicher Einfluss des algorithmischen Systems No access
        b) Zweite Stufe: Plausibilitätsprüfung No access
        c) Dritte Stufe: Eigene inhaltliche Abwägung No access
    6. 1. 1. Anforderungen an Rechtsgrundlagen No access
      2. 2. KI-VO als Rechtsgrundlage? No access
    7. VII. Zwischenergebnis und Ausblick auf den Digitalen Omnibus No access
  4. 1. I. Verbot der rein algorithmischen Aufgabenwahrnehmung No access
    2. 1. 1. Formale Zwischenschaltung No access
      2. 2. Formelle Hoheit (Human-on-the-Loop und Human-in-Command) No access
      3. 3. Unwesentliche Beeinflussung No access
      4. 4. Materielle Hoheit (Human-in-the-Loop) No access
1. 1. 1. I. Historisches Begriffsverständnis No access
    2. 1. a) Sachliche Unabhängigkeit No access
        b) Persönliche Unabhängigkeit No access
      2. 2. Unparteilichkeit No access
      3. 3. Fachliche und persönliche Kompetenz No access
      4. 4. Hypothetisch: Qualifizierung algorithmischer Systeme No access
    3. 1. 1. Anvertrauensformel No access
      2. 2. Personaler Charakter der Vorschrift No access
      3. a) Wechselwirkung zwischen Macht und Verantwortung No access
        aa) Der Begriff der Verantwortung No access
        bb) Übernahme von Verantwortung durch algorithmische Systeme No access
    4. IV. Zwischenergebnis No access
  2. 1. 1. a) Kritik am dogmatischen Ansatz No access
        b) Schwierigkeiten in der Anwendung No access
      2. 2. Traditionelle Kernbereiche der Rechtsprechung No access
      3. 3. Gesetzgeberische Qualifizierungen No access
      4. 4. Zwischenergebnis No access
    2. 1. 1. Stand der Literatur No access
      2. 2. Stellungnahme No access
2. 1. 1. I. Kernbereich richterlicher Tätigkeit No access
    2. II. Verletzung der eigenen Unabhängigkeit No access
  2. 1. I. Verbot No access
    2. II. Formelle Hoheit No access
    3. 1. a) Schlüssigkeitsprüfung No access
        b) Kritisches Hinterfragen No access
      2. a) Kenntnis der wesentlichen Entscheidungsprinzipien No access
        b) Kenntnis sämtlicher Entscheidungsparameter No access
      3. 3. Keine Überprüfung bei vollständiger Nachvollziehbarkeit No access
      4. 4. Zwischenergebnis No access
  3. 1. 1. 1. Wortlaut No access
      2. 2. Systematik No access
      3. 3. Historie No access
      4. 4. Telos No access
      5. 5. Zwischenergebnis No access
    2. 1. 1. Keine unmittelbare Vergleichbarkeit No access
      2. 2. Keine strukturelle Vergleichbarkeit No access
    3. III. Richterliche Unabhängigkeit als verfassungsrechtlicher Teilaspekt No access
3. 1. 1. 1. 1. Gesetzesbindung und Weisungsfreiheit No access
      2. 2. Grundgesetzliche Aufgabenzuweisung No access
      3. 3. Verhältnis zur richterlichen Unabhängigkeit No access
    2. II. Anwendungsbereich No access
  2. 1. I. Eigene Überzeugung als höchstpersönlicher Umstand No access
    2. II. Eigene Überzeugung als Grundlage eigener Verantwortung No access
    3. 1. 1. Freie Beweiswürdigung und eigene Überzeugung No access
      2. a) Bestimmung der Überzeugung anhand subjektiver und objektiver Faktoren No access
        b) Algorithmische Systeme als objektive Grundlage der subjektiven Überzeugung? No access
      3. 3. Bedeutung der verfassungsrechtlichen und einfachgesetzlichen Überzeugung No access
      4. 4. Erkenntnisse für die Überzeugung im verfassungsrechtlichen Sinne No access
  3. 1. 1. 1. Anträge und Erklärungen einer Behörde No access
      2. 2. Argumentation der Verfahrensbeteiligten No access
      3. 3. Recherchen No access
      4. 4. Folgerungen No access
    2. 1. 1. „Delegationsverbot“ im Rahmen der freien Beweiswürdigung No access
      2. a) Sachverständigenbeweis No access
        b) Referendare No access
        c) Vorbereitender, beauftragter und ersuchter Richter sowie Berichterstatter No access
      3. a) Ermächtigungsgrundlage No access
        b) Zuständigkeit des Richters No access
        c) Leitung der beauftragten Stelle No access
        d) Plausibilitätsprüfung No access
    3. 1. 1. Ausführung einer Tätigkeit durch den Richter No access
      2. 2. Ausführung einer Tätigkeit durch den wissenschaftlichen Mitarbeiter No access
4. 1. 1. 1. a) Ausführungen zum Einsatz informationstechnischer Systeme No access
        b) Folgerungen No access
      2. a) Ausführungen zum Einsatz informationstechnischer Systeme No access
        b) Folgerungen No access
      3. a) Ausführungen zum Einsatz informationstechnischer Systeme No access
        b) Folgerungen No access
      4. a) Ausführungen zum Einsatz informationstechnischer Systeme No access
        b) Folgerungen No access
      5. a) Ausführungen zum Einsatz informationstechnischer Systeme No access
        b) Folgerungen No access
      6. 6. Zwischenergebnis No access
    2. II. Berücksichtigung der systemimmanenten Risiken No access
  2. 1. 1. 1. SAE-Level in der Justiz No access
      2. 2. Keine Übertragbarkeit auf die Automatisierung der Justiz No access
      3. 3. Erkenntnisse aus der Unterteilung in Teilaufgaben No access
      4. 4. Erforderlichkeit einer Anpassung der SAE-Level No access
    2. 1. 1. Assistiertes Entscheiden No access
      2. 2. Teilweises Entscheiden No access
      3. 3. Geprüftes Entscheiden No access
      4. 4. Delegiertes Entscheiden No access
      5. 5. Autonomes Entscheiden No access
      6. 6. Erkenntnisse aus der Differenzierung des Bitkom No access
    3. 1. 1. Assistenzsystem No access
      2. 2. Delegation No access
      3. 3. Autonome Entscheidung No access
      4. 4. Erkenntnisse aus der Verwaltungsautomatisierung in Schleswig-Holstein No access
    4. 1. 1. Algorithmenbasierte Entscheidungen No access
      2. 2. Algorithmengetriebene Entscheidungen No access
      3. 3. Algorithmendeterminierte Entscheidungen No access
      4. 4. Erkenntnisse aus dem Modell der Datenethikkommission No access
    5. 1. 1. Vollständig technisch erzeugbare Entscheidung unter Ausschluss des Menschen No access
      2. 2. Automationsgeleitete menschliche Entscheidung No access
      3. 3. Automationsgestützte menschliche Entscheidung No access
      4. 4. Erkenntnisse aus dem Modell Munds No access
    6. 1. 1. Elektronifizierung No access
      2. 2. Teilautomatisierung No access
      3. 3. Vollautomatisierung No access
      4. 4. Einsatz „selbstlernender Algorithmen“ No access
      5. 5. Erkenntnisse aus den Stufen der Verwaltungsdigitalisierung nach Ludwigs und Velling No access
    7. VII. Zusammenfassung der Erkenntnisse No access
5. 1. 1. 1. 1. Wertungen der KI-Verordnung No access
      2. 2. Autonome Auslegung des Begriffs der inhaltlichen Beeinflussung No access
    2. II. Maßgabe No access
  2. 1. I. Formelle und materielle Hoheit No access
    2. II. Kompetenz als Grundvoraussetzung No access
    3. III. Umfassende inhaltliche Prüfung No access
    4. 1. 1. Komplexität No access
      2. 2. Automatisierungsgrad No access
      3. 3. Funktionale Nachvollziehbarkeit No access
    5. V. Angemessenheit als notwendig offenes Abgrenzungskriterium No access
  3. 1. I. Ausschluss von Ansätzen des maschinellen Lernens No access
    2. II. Kenntnis sämtlicher Entscheidungsparameter No access
    3. III. Exemplarische Rechtsgrundlage No access
  4. D) Vollautonome Aufgabenübernahme No access
6. 1. 1. 1. 1. Richterliche Tätigkeit No access
      2. 2. Akzessorietät No access
    2. II. Eigenverantwortliche Aufgabenwahrnehmung No access
  2. 1. I. Recht auf Information No access
    2. II. Recht zur Stellungnahme No access
    3. 1. aa) Kenntnisnahme in Kollegialorganen No access
        bb) Bedeutung für algorithmische Systeme und Massenverfahren No access
        cc) Folgen fehlerhafter Zusammenfassungen No access
        b) Pflicht zur Prüfung der Richtigkeit No access
      2. a) Übernahme fremder Erwägungen No access
        b) Keine formularmäßige Fassung ohne einzelfallbezogenen Hinweis No access
        c) Bedeutung für den Einsatz algorithmischer Systeme No access
        d) Verwendung von Textbausteinen und richterliche Unabhängigkeit No access
  3. C) Sicherung eines fairen Verfahrens No access
1. 1. 1. 1. 1. Informationsextraktion No access
      2. 2. Informationsabruf No access
    2. II. Dokumentenerstellung No access
    3. 1. 1. Juristische Expertensysteme No access
      2. a) Metadaten No access
        b) Sprachsysteme No access
  2. 1. 1. 1. Funktionsbeschreibung No access
      2. a) Veraktung No access
        b) Beteiligtenerkennung No access
    2. II. Text- und Sprachverarbeitung No access
    3. 1. a) Hervorhebung No access
        b) Strukturierung durch Tags No access
        c) Prüfassistent No access
      2. a) Eigenverantwortlichkeit der materiellen Entscheidungsvorbereitung No access
        b) Berücksichtigung des Anspruchs auf rechtliches Gehör No access
    4. 1. 1. Funktionsbeschreibung No access
      2. a) Eigenverantwortlichkeit der materiellen Entscheidungsvorbereitung No access
        b) Berücksichtigung des Anspruchs auf rechtliches Gehör No access
        c) Grenzen des Einsatzes algorithmischer Systeme zum Entwurf von Entscheidungen No access
  3. 1. 1. 1. Stichwortsuchen in juristischen Datenbanken No access
      2. 2. Semantische Suchfunktionen No access
    2. 1. 1. Reichweite des Richtermonopols No access
      2. 2. Eingliederung in den Instanzenzug No access
    3. III. Rechtliche Hinweise No access
    4. IV. Automatisierte Vergleichsvorschläge No access
    5. 1. 1. Anwendungsfall der Delegation No access
      2. 2. Rückgriff auf Low- und No-Code-Software No access
    6. 1. 1. Systembeschreibung durch Quack No access
      2. a) „Algorithmisches Grundsystem“ No access
        b) „KI-Bausteine“ No access
    7. VII. Einsatz algorithmischer Systeme durch Sachverständige No access
2. 1. 1. 1. a) Der gesetzliche Richter No access
        aa) Entzug durch die Legislative, Exekutive und Judikative No access
        bb) Entzug durch übermäßigen Einsatz algorithmischer Systeme No access
        c) Keine Übertragbarkeit der Willkürlichkeitsrechtsprechung No access
      2. 2. Justizgewährungsansprüche No access
      3. 3. Anspruch auf rechtliches Gehör No access
      4. 4. Menschenwürde No access
    2. 1. aa) Verfassungsrechtliche Anforderungen an den Richter No access
        bb) Vorschriftswidrige Benennung No access
        b) Besetzung des erkennenden Gerichts No access
        c) Zwischenergebnis No access
      2. 2. Absoluter Revisionsgrund de lege ferenda? No access
    3. 1. a) Beamter in Ausübung eines öffentlichen Amtes No access
        b) Schuldhafte Verletzung einer drittbezogenen Amtspflicht No access
        c) Verursachung eines Schadens No access
        d) Privilegierung des Richters No access
        e) Umleitung der Haftung No access
      2. a) Verhältnis der entwickelten Modelle No access
        aa) Entscheidung über Zweck und Mittel der Datenverarbeitung No access
        bb) Exzess des Richters No access
        c) Keine Exkulpation No access
        d) Anwendbarkeit von Art. 34 Satz 1 GG No access
  2. 1. 1. 1. Elementarer Verstoß gegen die Rechtspflege No access
      2. 2. Konkrete Gefahr einer falschen Entscheidung No access
    2. II. Geldbußen No access
    3. III. Dienstaufsichtsrechtliche Maßnahmen No access
    4. IV. Richteranklage No access
  3. 1. 1. 1. Allgemeine Nachweispflichten in der Entscheidungsbegründung No access
      2. 2. Besondere Nachweispflichten No access
    2. II. Datenschutzrechtlicher Auskunftsanspruch No access
    3. 1. 1. Voraussetzungen No access
      2. a) Beschränkung auf Hochrisiko-KI-Systeme No access
        b) Beschränkung auf rechtliche Auswirkungen No access
      3. 3. Verhältnis zu Art. 22 Abs. 3 DS-GVO No access
    4. 1. 1. Voraussetzungen und Inhalt No access
      2. a) Anwendbarkeit auf die Entscheidungsvorbereitung No access
        b) Durchbrechung des Beratungsgeheimnisses No access
      3. 3. Begründungspflicht oder Auskunftsanspruch? No access
Literaturverzeichnis No access Pages 307 - 330
Register No access Pages 331 - 336

Richterliche Verantwortung und Künstliche Intelligenz

Summary

Keywords

Search publication

Bibliographic data

Table of contents