Verträge mit KI prüfen: was du auslagern kannst und was beim Menschen bleibt

Der Rahmenvertrag kommt zurück, 34 Seiten, im Anschreiben steht „nur ein paar Anpassungen”. Fassung eins liegt seit sechs Wochen bei dir. Welche Stellen sich geändert haben, steht nirgends, und der Kunde erwartet die Unterschrift diese Woche.

Was du wissen willst, ist überschaubar. Steht die Kündigungsfrist noch bei drei Monaten? Ist die Haftung noch begrenzt, und wenn ja, worauf? Sind irgendwo Fristen eingebaut, die ihr im Alltag reißen würdet?

Für einen Teil dieser Fragen ist KI ein gutes Werkzeug. Für einen anderen Teil ist sie die falsche Adresse, und die Trennlinie dazwischen ist schärfer, als die Werbung der Anbieter nahelegt.

Dieser Artikel ist keine Rechtsberatung und ersetzt keine. Er beschreibt, wie du Vorarbeit organisierst, damit die Zeit deiner Anwältin für die Fragen übrig bleibt, bei denen sie zählt.

Was du sinnvoll auslagern kannst

Alles, was Suchen, Sortieren und Gegenüberstellen ist. Nichts, was Bewerten ist.

Fristen, Kündigungsregeln und Haftungsklauseln lokalisieren. Verträge verstecken Fristen an vier verschiedenen Stellen, und im Zweifel steht die wichtigste in einer Anlage. Dasselbe gilt für Laufzeit, Verlängerungsautomatik, Schriftform und Sonderkündigungsrechte. Eine Abfrage, die dir jede Zeitangabe und jede Haftungsregel mit Paragraf, Seite und wörtlichem Zitat auflistet, spart eine halbe Stunde Blättern. Lokalisieren heißt dabei nur: finden und zitieren. Ob eine Haftungsbegrenzung wirksam ist, entscheidet das Modell nicht. Die Fristen wandern danach in deinen Kalender.

Gegen deine eigene Checkliste abgleichen. Der am meisten unterschätzte Anwendungsfall. Du schreibst einmal auf, was in einem Vertrag deines Typs geregelt sein muss, und lässt das Modell danach prüfen:

Prüfe den Vertrag gegen die folgende Liste. Für jeden Punkt: Fundstelle mit Paragraf und Seite, wörtliches Zitat, und die Einstufung „geregelt”, „nicht gefunden” oder „unklar”. Erfinde keine Fundstellen. Wenn du zu einem Punkt nichts findest, schreib „nicht gefunden”.

1. Laufzeit und automatische Verlängerung
2. Kündigungsfrist und Form der Kündigung
3. Zahlungsziel, Verzugsregelung
4. Haftungsbegrenzung der Höhe nach
5. Rechte an Arbeitsergebnissen
6. Vertraulichkeit und Dauer der Verpflichtung
7. Unterauftragnehmer erlaubt oder nicht
8. Anwendbares Recht und Gerichtsstand

Die Kategorie „nicht gefunden” ist der eigentliche Ertrag. Fehlende Regelungen fallen beim Lesen fast nie auf, weil das Auge nur sieht, was dasteht.

Zwei Vertragsversionen vergleichen. Für die reine Frage „welche Zeichen haben sich geändert” ist ein deterministischer Textvergleich besser, also die Vergleichsfunktion deiner Textverarbeitung oder ein Diff-Werkzeug. Das Modell wird auf die zweite Frage angesetzt, nämlich was die Änderung bedeutet.

Hier sind zwei Fassungen desselben Vertrags. Liste jede inhaltliche Abweichung auf: Paragraf, alte und neue Formulierung wörtlich, und in einem Satz, was sich praktisch ändert. Reine Umformulierungen markierst du als „redaktionell”. Bei Unsicherheit schreibst du „unklar”, statt die Stelle wegzulassen.

Juristendeutsch übersetzen. „Erklär mir diesen Absatz so, dass ich ihn einem Mitarbeiter erklären kann.” Nützlich zum Verstehen, untauglich als Grundlage für eine Entscheidung.

Der gemeinsame Nenner: Das Ergebnis ist an einer Stelle im Dokument überprüfbar. Du kannst hingehen, nachschlagen und feststellen, ob es stimmt.

Was beim Menschen bleibt

Auslegung. Was eine Klausel im Streitfall bedeutet, hängt an Rechtsprechung, an Branchenüblichkeit, an dem, was ihr vor Vertragsschluss besprochen habt. Nichts davon steht im PDF. Ein Modell, das dir sagt, eine Klausel sei „üblich” oder „unproblematisch”, rät.

Verhandlungsstrategie. Welche der elf Punkte du ansprichst, welche du schluckst und in welcher Reihenfolge du sie auf den Tisch legst, ist eine Frage eurer Beziehung zu diesem Kunden. Ein Modell kennt weder eure Auftragslage noch die Person am anderen Ende.

Alles mit Rechtsfolge. Unterschreiben, kündigen, widersprechen, eine Frist verstreichen lassen, eine Mängelrüge formulieren. Sobald eine Handlung selbst rechtlich wirkt, geht der Vorgang zum Menschen, und bei nennenswertem Wert zu einer Anwältin oder einem Anwalt.

Die Frage, was fehlt. Ein Modell kann eine Checkliste abarbeiten, die du ihm gibst. Es kann dir nicht sagen, welcher Punkt in deiner Checkliste fehlt, weil ihr diesen Fall noch nie hattet.

Die Entscheidung, was überhaupt in das Tool darf. Ein Vertragsentwurf enthält Preise, Namen und manchmal personenbezogene Daten. Das entscheidest du vor dem Upload-Dialog, nicht darin. Der ganze Themenkomplex steckt in DSGVO und Vertraulichkeit bei KI-Tools.

Warum diese Grenze belegt ist und nicht nur vorsichtig

Die Fehleranfälligkeit im juristischen Bereich ist ungewöhnlich gut dokumentiert, weil Gerichte öffentlich protokollieren, wenn etwas schiefgeht.

Stanford-Forschende um Matthew Dahl haben 2024 im Journal of Legal Analysis eine Untersuchung mit über 800.000 überprüfbaren juristischen Fragen veröffentlicht. Die Halluzinationsraten der getesteten Allzweckmodelle lagen je nach Modell zwischen 58 und 88 Prozent. Ein zweiter Befund derselben Arbeit wiegt für die Vertragsprüfung noch schwerer: Die Modelle konnten ihre eigenen Fehler schlecht einschätzen und übernahmen falsche juristische Annahmen der Fragenden häufig unkritisch. Wer mit einer Vermutung in die Prüfung geht, bekommt sie bestätigt.

Lösen spezialisierte Rechtstools mit angebundener Datenbank das Problem? Dieselbe Forschungsgruppe hat das 2024 in einer vorregistrierten Studie gemessen: Die untersuchten Rechtsrecherche-Werkzeuge von LexisNexis und Thomson Reuters lieferten in 17 bis 33 Prozent der Fälle falsche Informationen. Deutlich besser als die Allzweckmodelle. Weit entfernt von den beworbenen „halluzinationsfreien” Ergebnissen.

Zwei deutsche Entscheidungen aus 2025. Das Amtsgericht Köln rügte in einem Familienverfahren (Beschluss vom 2. Juli 2025, 312 F 130/25) einen Schriftsatz, in dem ab Seite acht sämtliche Fundstellen erfunden waren: Urteile, Randziffern, Literaturstellen. Wenige Monate später deckte das Landgericht Frankfurt am Main (Beschluss vom 25. September 2025, 2-13 S 56/24) auf, dass ein Anwalt zur Streitwertberechnung Zitate aus BGH-Entscheidungen vorgelegt hatte, die es nicht gab. Weder Fundstelle noch Datum noch Aktenzeichen existierten.

Ausreißer sind das nicht. Der Jurist Damien Charlotin führt eine öffentliche Datenbank mit Gerichtsentscheidungen weltweit, in denen ein Gericht festgestellt hat, dass sich eine Partei auf halluziniertes Material gestützt hat. Der Bestand liegt im vierstelligen Bereich und wächst.

Speziell für Verträge: Der Benchmark CLAUSE (Findings of EACL 2026) hat über 7.500 gezielt veränderte Verträge gebaut und geprüft, ob Modelle die Abweichungen finden. Ergebnis der Autoren: Die Modelle übersehen subtile Fehler häufig und tun sich noch schwerer damit, sie juristisch zu begründen.

Übersehen ist dabei die gefährlichere Hälfte. Eine erfundene Klausel fällt beim Nachschlagen auf. Eine übersehene fällt gar nicht auf.

Ein Ablauf, der die Grenze respektiert

Vier Schritte, in dieser Reihenfolge.

Erstens schreibst du deine Checkliste, bevor du irgendetwas hochlädst. Zehn bis fünfzehn Punkte, aus deinen bisherigen Verträgen abgeleitet. Diese Liste ist der eigentliche Wert, und sie gehört dir, nicht dem Modell.

Zweitens lässt du gegen die Liste prüfen, mit Zitatpflicht. Antworten ohne Fundstelle behandelst du als unbeantwortet.

Drittens machst du eine Stichprobe von Hand. Fünf Punkte, PDF auf, nachschlagen. Nimm dabei bevorzugt die Verneinungen, also alles mit „nicht”, „ausgenommen” oder „unbeschadet”, weil dort die meisten Lesefehler entstehen. Der Rest des Prüfhandwerks für lange Dokumente steht in langes PDF mit KI analysieren.

Viertens gehst du mit einer sortierten Liste ins Gespräch, statt mit 34 Seiten. Deine Anwältin liest nicht mehr den ganzen Vertrag von vorn, sondern beantwortet elf konkrete Fragen mit Fundstellen. Das ist billiger und meistens auch besser, weil die Fragen aus deinem Betrieb kommen.

Der Ablauf hat allerdings eine Nebenwirkung, die in keiner Anleitung steht: Eine abgehakte Liste macht satt. Wer mit elf erledigten Punkten ins Gespräch geht, fragt seltener nach dem zwölften. Das ist derselbe Mechanismus wie oben bei Dahl, nur ohne Modell dazwischen.

Auch eine genannte Fundstelle ist kein Beweis. Eine 2025 in Nature Communications erschienene Untersuchung hat Antworten von Sprachmodellen gegen die von ihnen selbst angegebenen Quellen geprüft, allerdings im medizinischen Bereich. Je nach Modell waren 50 bis 90 Prozent der Antworten nicht vollständig durch die zitierte Quelle gedeckt. Das Zitat lenkt dein Auge an die richtige Stelle. Prüfen musst du trotzdem, und wie das systematisch geht, steht in Halluzinationen in der Dokumentenanalyse erkennen.

Wo der Ablauf endet, und wo er gar nicht erst anfängt

Drei Signale, bei denen ein Fachmensch übernimmt.

Wenn das Vertragsvolumen groß genug ist, dass ein Fehler wehtut. Die Schwelle setzt du selbst, und sie liegt meistens niedriger, als man sich eingesteht.

Wenn eine Klausel bei dir Bauchschmerzen auslöst und du nicht benennen kannst, warum. Dieses Gefühl ist oft besser informiert als jede Prüfliste.

Wenn es um Haftung, Rechte an Arbeitsergebnissen, Wettbewerbsverbote oder Beendigung geht. Vier Themen, bei denen die Formulierungsdetails den Unterschied machen und ein Modell dir eine plausible Antwort gibt, die es nicht belegen kann.

Und zwei Fälle, in denen du gar nicht erst anfängst. Manche Verträge regeln selbst, wem du sie zeigen darfst. Dann lautet die erste Frage nicht, welcher Prompt taugt, sondern ob die Datei das Haus verlassen darf. Der zweite Fall: der Vertrag, den du ohnehin nicht verhandeln kannst. Wenn die Gegenseite ihr Standardwerk vorlegt und Änderungen nicht zur Debatte stehen, produziert eine Klauselanalyse eine saubere Liste von Punkten, an denen du nichts ändern wirst. Übrig bleibt die Frage, ob du unterschreibst, und die beantwortest du ohne Tabelle schneller.

Der nächste Schritt

Nimm den Standardvertrag, den du am häufigsten verwendest, und schreib deine Checkliste dazu. Ohne KI, auf ein Blatt Papier, aus dem Kopf. Zehn Punkte reichen für den Anfang.

Danach lässt du dieselbe Liste einmal gegen einen echten Vertrag prüfen und schaust dir nur an, was unter „nicht gefunden” landet. Wo Vertragsprüfung im größeren Ablauf steht, von der Dateivorbereitung bis zur Ablage, steht im Leitfaden zur KI-Dokumentenanalyse im Business.

Quellen

• Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models – Dahl, Magesh, Suzgun, Ho, Journal of Legal Analysis 16(1), 2024
• Hallucinating Law: Legal Mistakes with Large Language Models are Pervasive – Stanford Law School, 2024
• Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools – Stanford RegLab
• New Study Shows Legal Research Platform AI Tools Do, In Fact, Hallucinate – RIPS Law Librarian Blog, AALL, 2024
• Berufspflichten: Anwalt reicht KI-Schriftsatz mit Fehlern ein (AG Köln, 312 F 130/25) – Legal Tribune Online, 2025
• KI-Schriftsatz: Anwalt blamiert sich vor Gericht (AG Köln, 312 F 130/25) – beck-aktuell, Juli 2025
• „Komplette Fälschung": Gericht führt Anwalt für halluzinierte Fundstelle vor (LG Frankfurt/Main, 2-13 S 56/24) – beck-aktuell, September 2025
• AI Hallucination Cases Database – Damien Charlotin
• Better Call CLAUSE: A Discrepancy Benchmark for Auditing LLMs Legal Reasoning Capabilities – Findings of EACL 2026
• An automated framework for assessing how well LLMs cite relevant medical references – Nature Communications, 2025