KI-Tools wie ChatGPT können juristische Arbeit deutlich beschleunigen – daran besteht kaum Zweifel. Gleichzeitig zeigen mehrere Fälle aus Deutschland und den USA, was passieren kann, wenn Anwältinnen und Anwälte KI-generierten Output unkritisch übernehmen: Schriftsätze mit erfundenen Urteilen, irritierte Gerichte und teils erhebliche berufsrechtliche Konsequenzen.
Dieser Artikel fasst die wichtigsten Fälle zusammen, ordnet ein, was dahintersteckt – und zeigt, wie ein verantwortungsvoller Umgang mit KI in der Rechtspraxis aussehen kann.
Das Kernproblem: KI-Halluzinationen im Gerichtssaal
Unter „Halluzination“ versteht man die Neigung großer Sprachmodelle, falsche Informationen überzeugend darzustellen. Das Modell erfindet Inhalte nicht bewusst – es erzeugt statistisch wahrscheinliche Formulierungen. Im juristischen Kontext führt das zu plausibel klingenden Urteilszitaten, Aktenzeichen oder Gesetzesverweisen, die tatsächlich nicht existieren.
Für Anwältinnen und Anwälte ist das kein theoretisches Problem, sondern ein echtes Berufsrisiko. Denn die Pflicht, Quellen zu prüfen und nur zutreffende Tatsachen vorzutragen, gilt unabhängig davon, wer den Entwurf erstellt hat.
Die deutschen Fälle: OLG Celle und Amtsgericht Köln (2025)
In Deutschland haben zwei Entscheidungen aus dem Jahr 2025 besonders deutlich gezeigt, worin das Problem liegt.
Das Oberlandesgericht Celle stellte in seinem Beschluss vom 29. April 2025 (Az. 5 U 1/25) fest, dass ein Beklagtenvertreter vier angebliche Entscheidungen verschiedener Oberlandesgerichte zitiert hatte – aus München, Frankfurt, Düsseldorf und Koblenz. Keine dieser Entscheidungen war in juris oder beck-online zu finden. Das Gericht sprach von Fehlzitaten, die sich unter den angegebenen Daten in keiner gängigen Rechtsdatenbank auffinden ließen. Zudem widersprachen die angeblichen Entscheidungen der gefestigten BGH-Rechtsprechung. Der Schriftsatz war damit in zentralen Punkten nicht belastbar.
Kurz darauf folgte ein Beschluss des Amtsgerichts Köln (Az. 312 F 130/25), der noch deutlicher wurde: Sämtliche im Schriftsatz aufgeführten Quellen – von Urteilen über Randnummern bis hin zu Literaturstellen – waren nach Auffassung des Gerichts schlicht erfunden. Das Gericht wies ausdrücklich darauf hin, dass ein solches Vorgehen das Vertrauen in anwaltliche Schriftsätze untergräbt.
Beide Fälle zeigen ein ähnliches Muster: KI-generierter Output wurde ohne ausreichende Prüfung übernommen. Die Folgen reichten von der Unverwertbarkeit einzelner Argumente bis hin zu einem öffentlich dokumentierten Vertrauensverlust.
Der amerikanische Präzedenzfall: Mata v. Avianca (2023)
International bekannt wurde der Fall Mata v. Avianca vor einem New Yorker Bundesgericht. Zwei Anwälte reichten 2023 einen Schriftsatz ein, der sechs angebliche Gerichtsentscheidungen enthielt – alle von ChatGPT generiert, keine davon real.
Nachdem weder Gericht noch Gegenseite die Zitate verifizieren konnten, wurden die Anwälte aufgefordert, die Quellen vorzulegen. Sie konnten dies nicht.
Richter Kevin Castel stellte klar: Die Entscheidungen seien nicht auffindbar, weil sie nie existiert hätten. Die Anwälte wurden zu einer Geldstrafe von 5.000 US-Dollar verurteilt und im Beschluss namentlich genannt. Der Fall sorgte international für Aufmerksamkeit.
Besonders schwer wog, dass die Anwälte zunächst behauptet hatten, die Entscheidungen seien echt – und anschließend sogar erfundene Dokumente vorlegten. Das Gericht wertete dies als Versuch, das Gericht zu täuschen.
Was rechtlich auf dem Spiel steht
Diese Fälle sind keine Einzelfälle, sondern Ausdruck eines strukturellen Risikos. Für Anwältinnen und Anwälte ergeben sich insbesondere drei zentrale Problemfelder:
Sorgfaltspflicht und Wahrheitspflicht
Nach § 43a Abs. 3 BRAO dürfen keine unwahren Tatsachen vorgetragen werden. Das gilt auch für Inhalte, die fahrlässig aus KI-Outputs übernommen wurden.
Haftungsrisiko
Wer einen Schriftsatz mit erfundenen Quellen einreicht, riskiert mehr als nur eine peinliche Situation. Mandanten können dadurch erheblichen Schaden erleiden – im schlimmsten Fall verlieren Sie ein Verfahren, das bei sorgfältiger Arbeit möglicherweise gewonnen worden wäre. Die Haftungsfolgen für den verantwortlichen Anwalt sind entsprechend real.
Reputationsschaden
Gerichtliche Beschlüsse, die KI-bedingte Fehler dokumentieren, sind öffentlich zugänglich. Sie bleiben dauerhaft auffindbar – in Datenbanken, in Fachzeitschriften oder über einfache Suchanfragen. Was einmal als Fehlzitat dokumentiert ist, bleibt in der Regel mit dem Namen des Anwalts verknüpft.
Warum es trotzdem passiert
Die Ursache liegt selten in mangelnder Fachkenntnis, sondern im Workflow. ChatGPT formuliert juristisch klingende Texte mit hoher sprachlicher Überzeugungskraft. Unter Zeitdruck wirkt ein solcher Entwurf oft plausibel – und wird schneller übernommen, als es eigentlich verantwortbar ist.
Hinzu kommt: Das Tool selbst weist nicht darauf hin, wenn eine Quelle nicht existiert. Erfundenes wird mit derselben Sicherheit präsentiert wie korrekte Informationen.
Was Anwältinnen und Anwälte konkret tun müssen
Die Konsequenz ist nicht, auf KI zu verzichten – sondern sie kontrolliert einzusetzen.
- Jedes Urteilszitat und jede Fundstelle vor Verwendung in juris, beck-online oder einer vergleichbaren Datenbank überprüfen
- KI-Outputs grundsätzlich als Arbeitsgrundlage behandeln, nicht als fertiges Ergebnis
- Keine vertraulichen Mandantendaten in allgemeine KI-Tools eingeben
- Klare interne Richtlinien für den KI-Einsatz definieren
- Im Zweifel auf nicht verifizierbare Inhalte verzichten
Aus dem Beschluss des OLG Celle folgt klar: Auch beim Einsatz von KI bleiben die anwaltlichen Berufsrechtspflichten – insbesondere zur sorgfältigen Überprüfung von Quellen – vollumfänglich anwendbar.
Wie spezialisierte Legal AI das Risiko reduziert
Allgemeine KI-Tools wie ChatGPT sind nicht darauf ausgelegt, Rechtsquellen zu prüfen. Sie haben keinen Zugriff auf juristische Datenbanken und geben keine Warnung aus, wenn eine Quelle nicht existiert.
Spezialisierte Lösungen wie BEAMON gehen hier einen anderen Weg.
Antworten werden mit verifizierten Rechtsquellen verknüpft, Zitate gegen Datenbanken geprüft und mit nachvollziehbaren Quellenangaben versehen. Auch beim Datenschutz bestehen Unterschiede: BEAMON ist nach ISO 27001:2022 und SOC 2 Type II zertifiziert, erfüllt die Anforderungen der BRAO und § 203 StGB und verarbeitet Daten ausschließlich innerhalb der EU/EEA. Mandantendaten werden weder für Trainingszwecke genutzt noch weitergegeben. Mehr Informationen darüber, finden Sie hier.
Das bedeutet nicht, dass solche Tools fehlerfrei sind. Die anwaltliche Prüfungspflicht bleibt bestehen. Der Unterschied liegt darin, dass Risiken systematisch reduziert werden – statt unbemerkt bestehen zu bleiben.
Fazit: KI ja – aber mit Verantwortung.
Die beschriebenen Fälle sprechen nicht gegen den Einsatz von KI in der Rechtspraxis. Sie zeigen vielmehr, wie wichtig ein bewusster Umgang damit ist.
KI kann juristische Arbeit effizienter machen – etwa bei der Strukturierung von Sachverhalten oder bei ersten Entwürfen. Sie ersetzt jedoch keine fachliche Prüfung.
Wer klare Prozesse etabliert und KI gezielt einsetzt, kann die Vorteile nutzen, ohne unnötige Risiken einzugehen. Hat das Ihre Neugier geweckt? Testen Sie BEAMON kostenlos unter: ai.bryter.io/sign-up.
