Inhalt
- Was die Gerichte entschieden haben
- Warum Sprachmodelle Fundstellen erfinden
- Wo das Thema in jedem Unternehmen auftaucht
- Quellenprüfung in vier Schritten
- Wie die Technik die Prüfung leicht macht
- Was in die KI-Richtlinie gehört
- Unsere Einschätzung
Das Kammergericht Berlin hat eine Anwältin darauf hingewiesen, dass in ihren Schriftsätzen zwei Entscheidungen zitiert waren, die es nicht gibt. Der Beschluss vom 20. November 2025 wurde im Frühjahr 2026 bekannt und hat in der Fachpresse breite Aufmerksamkeit gefunden. Schon im Juli 2025 hatte das Amtsgericht Köln in einem ähnlichen Fall deutliche Worte gefunden.
Für Unternehmen steckt darin eine nützliche Botschaft: Der Maßstab ist klar, und er lässt sich mit überschaubarem Aufwand erfüllen. Wer Fundstellen sichtbar macht, am Original öffnet und die Prüfung festhält, nutzt KI für Recherche und Entwürfe mit gutem Gefühl. Dieser Beitrag zeigt, was die Gerichte verlangen, warum Sprachmodelle Quellen erfinden und wie die Quellenprüfung zum festen Arbeitsschritt wird.
Was die Gerichte entschieden haben
Kammergericht Berlin. In einem familienrechtlichen Beschwerdeverfahren ging es um Verfahrenskostenhilfe. Die Schriftsätze der Anwältin stützten sich auf eine angebliche Entscheidung des Bundesgerichtshofs samt Zeitschriftenfundstelle und auf eine angebliche Entscheidung eines Oberlandesgerichts. Das Gericht suchte beide in den juristischen Datenbanken und auf der Internetseite des Bundesgerichtshofs und fand sie dort nicht. An der genannten Stelle der Zeitschrift stand eine andere Entscheidung zu einem anderen Thema. Der Senat ging davon aus, dass die Schriftsätze mit KI verfasst und die eingefügten Zitate ungeprüft übernommen worden waren.
„Rechtsanwältinnen und Rechtsanwälte sind gehalten, mithilfe von KI verfasste Schriftsätze zu prüfen […].“
Amtsgericht Köln. Auch hier ging es um eine Familiensache. Das Gericht stellte fest, dass die im Schriftsatz genannten Fundstellen frei erfunden waren: eine Monografie, die sich nirgends auffinden ließ, ein Kommentar mit falsch zugeordnetem Autor und Zeitschriftenstellen, an denen etwas ganz anderes stand. Es forderte den Anwalt auf, solche Ausführungen künftig zu unterlassen, und verwies auf das Berufsrecht.
| Gericht | Was im Schriftsatz stand | Worauf das Gericht abstellt |
|---|---|---|
| Kammergericht Berlin 20. November 2025 17 WF 144/25 | Zwei zitierte Entscheidungen, die in den juristischen Datenbanken und auf der Internetseite des Bundesgerichtshofs fehlen | Pflicht zur Prüfung nach § 43 BRAO, aus dem Mandat und aus der Stellung als Organ der Rechtspflege |
| Amtsgericht Köln 2. Juli 2025 312 F 130/25 | Eine unauffindbare Monografie, ein falsch zugeordneter Kommentar und Zeitschriftenstellen mit anderem Inhalt | Sachlichkeitsgebot nach § 43a Abs. 3 BRAO; solche Ausführungen erschweren die Rechtsfindung |
Beide Beschlüsse setzen am selben Punkt an: Im Mittelpunkt steht die Prüfung, das Werkzeug ist Nebensache. Die Verantwortung für den Inhalt bleibt bei der Person, die unterschreibt, und die Prüfung der Zitate gehört zur Arbeit dazu.
Das Thema beschäftigt Gerichte weltweit. Eine Datenbank des Rechtswissenschaftlers Damien Charlotin, die Entscheidungen zu KI-Halluzinationen in gerichtlichen Verfahren sammelt, führte am 2. Oktober 2026 insgesamt 2.125 Fälle. In Deutschland hat das Bundesjustizministerium laut Legal Tribune Online im September 2026 angekündigt, innerhalb eines halben Jahres eine Reform vorzulegen, die Gerichten klare Vorgaben für das Vorbringen der Parteien ermöglicht.
Warum Sprachmodelle Fundstellen erfinden
Ein Sprachmodell erzeugt Text, indem es Wort für Wort die wahrscheinlichste Fortsetzung wählt. Eine Fundstelle hat ein festes Muster: Gericht, Datum, Aktenzeichen, Zeitschrift, Jahrgang, Seite. Dieses Muster kann ein Modell überzeugend nachbilden, auch wenn hinter der Angabe kein Dokument steht. Der Fachbegriff dafür ist Halluzination.
Der Berliner Fall zeigt, wie so etwas aussieht. Das Kammergericht hielt es für möglich, dass Bestandteile echter Entscheidungen zu einer neuen Fundstelle zusammengesetzt wurden: Die Zeitschrift gibt es, die Seite gibt es, nur steht dort eine andere Entscheidung. Genau deshalb wirkt eine erfundene Fundstelle auf den ersten Blick stimmig, und genau deshalb klärt nur der Blick ins Original, ob sie trägt.
Zwei Arten von Abweichungen kommen vor, und beide lassen sich gezielt prüfen:
- Die Quelle gibt es nicht. Aktenzeichen, Titel oder Autor führen ins Leere.
- Die Quelle gibt es, sie sagt etwas anderes. Das Dokument ist echt, die zugeschriebene Aussage steht dort in anderer Form oder gar nicht.
Die erste Art fällt beim Öffnen sofort auf. Die zweite verlangt, die Stelle zu lesen. Eine gute Quellenprüfung deckt beide ab.
Wo das Thema in jedem Unternehmen auftaucht
Fundstellen gibt es weit über die Anwaltschaft hinaus. Überall, wo ein Dokument seine Aussagen belegt, gilt derselbe Maßstab:
- Angebote und technische Unterlagen mit Verweisen auf Normen, Zulassungen und Prüfberichte
- Gutachten, Berichte und Studien mit Literatur und Zahlen aus fremden Erhebungen
- Verträge und Stellungnahmen mit Paragrafen und Rechtsprechung
- Förderanträge und Ausschreibungen mit Richtlinien und Nachweisen
- Antworten an Kunden, die sich auf Vertragsbedingungen oder Handbücher stützen
Wie viel an einer sauberen Prüfung hängt, zeigt ein Fall aus der Beratungsbranche. Im Oktober 2025 legte ein großes Beratungshaus in Australien die überarbeitete Fassung eines Berichts für das dortige Arbeitsministerium vor. Ein Wissenschaftler der Universität Sydney hatte darin ein erfundenes Zitat aus einem Gerichtsurteil und Verweise auf nicht existierende Fachliteratur gefunden. Der Bericht hatte nach Angaben der Nachrichtenagentur AP 440.000 australische Dollar gekostet; das Haus sagte eine teilweise Rückzahlung zu und ergänzte den Hinweis, dass ein generatives Sprachmodell eingesetzt worden war.
Die gute Nachricht: Jede Art von Verweis hat eine Stelle, an der sie sich in kurzer Zeit bestätigen lässt.
| Art des Verweises | Woran geprüft wird | Worauf es ankommt |
|---|---|---|
| Urteil oder Beschluss | Volltext in der Datenbank oder auf der Seite des Gerichts | Gericht, Datum, Aktenzeichen und die zitierte Aussage |
| Gesetz, Verordnung, Richtlinie | Aktuelle Fassung beim Herausgeber | Paragraf, Absatz und Stand der Fassung |
| Technische Norm | Ausgabe im eigenen Normenbestand | Nummer, Ausgabedatum und Abschnitt |
| Fachliteratur und Studien | Verlag, Bibliothekskatalog oder DOI | Autor, Titel, Jahr und die Stelle, auf die sich der Text stützt |
| Zahlen und Statistiken | Originalveröffentlichung der Erhebung | Bezugsjahr, Einheit und Grundgesamtheit |
| Interne Dokumente | Verlinktes Dokument im eigenen Bestand | Version, Gültigkeit und Freigabe |
Quellenprüfung in vier Schritten
Eine Prüfung, die im Alltag hält, ist einfach und immer gleich. Vier Schritte genügen.
- Fundstellen sichtbar machen. Jede Aussage, die sich auf eine Quelle stützt, trägt ihren Verweis. Am Ende des Entwurfs steht eine Liste aller Verweise. So ist auf einen Blick klar, was zu prüfen ist.
- Am Original öffnen. Jede Quelle wird dort aufgerufen, wo sie veröffentlicht ist: in der Datenbank, beim Gericht, beim Herausgeber der Norm, beim Verlag. Damit ist geklärt, dass es sie gibt.
- Inhalt abgleichen. Die zitierte Stelle wird gelesen und mit der Aussage im Entwurf verglichen. Damit ist geklärt, dass die Quelle die Aussage trägt.
- Prüfung vermerken. Ein kurzer Vermerk hält fest, wer die Verweise wann geprüft hat. Bei Dokumenten mit Außenwirkung liest eine zweite Person gegen.
Der Aufwand richtet sich nach der Bedeutung des Dokuments. Für eine interne Notiz genügt eine Stichprobe. Für ein Angebot, ein Gutachten oder einen Schriftsatz wird jeder Verweis geöffnet. Diese Abstufung gehört in die Arbeitsanweisung, damit alle im Team dieselbe Regel anwenden.
Wie die Technik die Prüfung leicht macht
Ein gut gebautes System nimmt der Prüfung den größten Teil der Arbeit ab. Fünf Bausteine haben sich bewährt.
- Antworten aus angebundenen Quellen. Das System sucht zuerst in Ihren Dokumenten und Datenbanken und formuliert die Antwort aus den gefundenen Stellen. Das Verfahren heißt RAG.
- Verweise, die sich öffnen lassen. Jede Aussage führt per Klick zu Dokument und Stelle. Der Abgleich dauert so lange wie das Lesen des Absatzes.
- Eine automatische Verweisprüfung. Bevor ein Entwurf angezeigt wird, gleicht das System jedes Aktenzeichen, jede Norm und jede Adresse mit dem Bestand ab und markiert, was dort fehlt.
- Offene Antworten. Das System sagt klar, wenn die Quellen eine Frage offenlassen, und nennt, was fehlt.
- Ein Prüfsatz. Eine Sammlung typischer Fragen mit den richtigen Fundstellen zeigt, wie oft das System die passende Stelle findet. Jede Verbesserung wird damit messbar.
Die Prüfung am Original bleibt auch mit angebundenen Quellen Teil des Ablaufs. Eine Untersuchung der Universität Stanford aus dem Jahr 2024 fand bei spezialisierten juristischen Recherchewerkzeugen mit Quellenanbindung in 17 bis 33 Prozent der Testfragen Halluzinationen, also falsche oder von der Quelle nicht gedeckte Angaben. Die Werkzeuge entwickeln sich weiter; der Befund zeigt, warum der Prüfsatz und der Blick ins Original zusammengehören.
Wie eine Wissensbasis mit verlinkten Quellen aufgebaut wird, beschreiben Baustein 11: RAG und Unternehmenswissen und unser Beitrag RAG in der Praxis. Wie Recherche, Aktenarbeit und Vertragsprüfung in Kanzlei und Rechtsabteilung zusammenspielen, steht in Baustein 18: KI in Kanzlei und Rechtsabteilung.
Was in die KI-Richtlinie gehört
Vier Sätze in der KI-Richtlinie machen die Quellenprüfung verbindlich:
- Für Recherche nutzen wir Werkzeuge, die ihre Quellen nennen und verlinken.
- Jede Fundstelle wird vor der Verwendung am Original geöffnet und gelesen.
- Wer ein Dokument unterschreibt oder versendet, verantwortet seinen Inhalt.
- Die Prüfung wird mit Name und Datum vermerkt.
Artikel 4 des EU AI Act verlangt, den Aufbau von KI-Kompetenz bei den Beschäftigten zu unterstützen. Eine kurze Schulung mit zwei oder drei Beispielen aus dem eigenen Haus, darunter eine erfundene Fundstelle zum Selbstfinden, erfüllt diesen Zweck und bleibt im Gedächtnis. Aufbau, Muster und Nachweis beschreibt Baustein 14: KI-Richtlinie und KI-Kompetenz.
Für Kanzleien hat die Bundesrechtsanwaltskammer im Dezember 2024 Hinweise zum Einsatz von KI veröffentlicht. Sie sind ein guter Ausgangspunkt für die eigene Richtlinie.
Unsere Einschätzung
Die beiden Beschlüsse helfen allen, die KI für Texte mit Quellen einsetzen. Sie benennen den Maßstab in einem Satz: Wer unterschreibt, hat geprüft. Das ist derselbe Maßstab, der für die Arbeit von Mitarbeitenden und Dienstleistern seit jeher gilt, und er lässt sich mit einem festen Ablauf und der passenden Technik gut erfüllen.
Unsere Empfehlung: Verbinden Sie die Recherche mit Ihren eigenen Quellen, lassen Sie jeden Verweis verlinken und legen Sie die vier Schritte der Prüfung in Ihrer KI-Richtlinie fest. So gewinnen Sie die Zeit, die KI beim Lesen und Entwerfen spart, und behalten die Sicherheit, die Ihr Name unter dem Dokument verlangt. Wenn Sie klären möchten, wie eine Recherche mit prüfbaren Quellen in Ihrem Haus aussehen kann, sprechen wir gern in einem kostenfreien Erstgespräch darüber.
Quellen
- Bundesrechtsanwaltskammer: KI-Halluzination: KG ermahnt Anwältin wegen erfundener Urteile im Schriftsatz, 8. Juni 2026
- beck-aktuell: KI-Rüffel vom KG: Gericht rügt Anwältin für „fantasierte“ Fundstelle, 8. Mai 2026
- beck-aktuell: Bericht zum Beschluss des Amtsgerichts Köln vom 2. Juli 2025, 312 F 130/25, 8. Juli 2025
- Legal Tribune Online: Bericht zur geplanten Reform der Verfahrensordnungen, 25. September 2026
- Damien Charlotin: AI Hallucination Cases Database, Stand 2. Oktober 2026
- Magesh, Surani, Dahl, Suzgun, Manning, Ho: Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, 30. Mai 2024
- Associated Press: Bericht zur überarbeiteten Studie für das australische Arbeitsministerium, 7. Oktober 2025
- Bundesrechtsanwaltskammer: Hinweise zum Einsatz von künstlicher Intelligenz, Stand Dezember 2024
Dieser Beitrag gibt den Stand der genannten Berichte wieder und ersetzt keine rechtliche Beratung im Einzelfall.
Häufige Fragen
Was ist eine erfundene Fundstelle?
Eine Quellenangabe, die ein Sprachmodell formuliert hat, ohne dass ein Dokument dahintersteht. Sie folgt dem üblichen Muster aus Gericht, Datum und Aktenzeichen oder aus Autor, Titel und Jahr und wirkt deshalb stimmig. Ob sie trägt, zeigt das Öffnen der Quelle am Original.
Was hat das Kammergericht Berlin entschieden?
Mit Beschluss vom 20. November 2025, 17 WF 144/25, hat das Kammergericht eine Anwältin darauf hingewiesen, dass zwei in ihren Schriftsätzen zitierte Entscheidungen in den juristischen Datenbanken fehlen. Rechtsanwältinnen und Rechtsanwälte haben mit KI verfasste Schriftsätze und die darin enthaltenen Zitate zu prüfen.
Gilt das auch für Unternehmen außerhalb der Anwaltschaft?
Das Berufsrecht der Anwaltschaft gilt für Kanzleien. Der Grundsatz dahinter gilt überall: Wer ein Angebot, ein Gutachten oder einen Bericht unterschreibt oder versendet, steht gegenüber Kunden, Partnern und Behörden für den Inhalt ein, gleich mit welchem Werkzeug der Text entstanden ist.
Wie prüft man eine Fundstelle?
In vier Schritten: Verweise im Entwurf sichtbar machen, jede Quelle am Original öffnen, die zitierte Stelle lesen und mit der Aussage abgleichen, die Prüfung mit Name und Datum vermerken. Bei Dokumenten mit Außenwirkung liest eine zweite Person gegen.
Verhindert RAG erfundene Fundstellen?
RAG senkt das Risiko deutlich, weil das System aus angebundenen Dokumenten antwortet und jede Aussage verlinkt. Die Prüfung am Original bleibt Teil des Ablaufs. Ein Prüfsatz mit typischen Fragen zeigt, wie zuverlässig das System die richtigen Stellen findet.