KI-Tools wie ChatGPT k\u00f6nnen juristische Arbeit deutlich beschleunigen \u2013 daran besteht kaum Zweifel. Gleichzeitig zeigen mehrere F\u00e4lle aus Deutschland und den USA, was passieren kann, wenn Anw\u00e4ltinnen und Anw\u00e4lte KI-generierten Output unkritisch \u00fcbernehmen: Schrifts\u00e4tze mit erfundenen Urteilen, irritierte Gerichte und teils erhebliche berufsrechtliche Konsequenzen. <\/p>\n\n\n\n
Dieser Artikel fasst die wichtigsten F\u00e4lle zusammen, ordnet ein, was dahintersteckt \u2013 und zeigt, wie ein verantwortungsvoller Umgang mit KI in der Rechtspraxis aussehen kann. <\/p>\n\n\n\n
Unter \u201eHalluzination\u201c versteht man die Neigung gro\u00dfer Sprachmodelle, falsche Informationen \u00fcberzeugend darzustellen. Das Modell erfindet Inhalte nicht bewusst \u2013 es erzeugt statistisch wahrscheinliche Formulierungen. Im juristischen Kontext f\u00fchrt das zu plausibel klingenden Urteilszitaten, Aktenzeichen oder Gesetzesverweisen, die tats\u00e4chlich nicht existieren. <\/p>\n\n\n\n
F\u00fcr Anw\u00e4ltinnen und Anw\u00e4lte ist das kein theoretisches Problem, sondern ein echtes Berufsrisiko. Denn die Pflicht, Quellen zu pr\u00fcfen und nur zutreffende Tatsachen vorzutragen, gilt unabh\u00e4ngig davon, wer den Entwurf erstellt hat. <\/p>\n\n\n\n
In Deutschland haben zwei Entscheidungen aus dem Jahr 2025 besonders deutlich gezeigt, worin das Problem liegt. <\/p>\n\n\n\n
Das Oberlandesgericht Celle stellte in seinem Beschluss vom 29. April 2025 (Az. 5 U 1\/25) fest, dass ein Beklagtenvertreter vier angebliche Entscheidungen verschiedener Oberlandesgerichte zitiert hatte \u2013 aus M\u00fcnchen, Frankfurt, D\u00fcsseldorf und Koblenz. Keine dieser Entscheidungen war in juris oder beck-online zu finden. Das Gericht sprach von Fehlzitaten, die sich unter den angegebenen Daten in keiner g\u00e4ngigen Rechtsdatenbank auffinden lie\u00dfen. Zudem widersprachen die angeblichen Entscheidungen der gefestigten BGH-Rechtsprechung. Der Schriftsatz war damit in zentralen Punkten nicht belastbar. <\/p>\n\n\n\n
Kurz darauf folgte ein Beschluss des Amtsgerichts K\u00f6ln (Az. 312 F 130\/25), der noch deutlicher wurde: S\u00e4mtliche im Schriftsatz aufgef\u00fchrten Quellen \u2013 von Urteilen \u00fcber Randnummern bis hin zu Literaturstellen \u2013 waren nach Auffassung des Gerichts schlicht erfunden. Das Gericht wies ausdr\u00fccklich darauf hin, dass ein solches Vorgehen das Vertrauen in anwaltliche Schrifts\u00e4tze untergr\u00e4bt. <\/p>\n\n\n\n
Beide F\u00e4lle zeigen ein \u00e4hnliches Muster: KI-generierter Output wurde ohne ausreichende Pr\u00fcfung \u00fcbernommen. Die Folgen reichten von der Unverwertbarkeit einzelner Argumente bis hin zu einem \u00f6ffentlich dokumentierten Vertrauensverlust. <\/p>\n\n\n\n
International bekannt wurde der Fall Mata v. Avianca<\/em> vor einem New Yorker Bundesgericht. Zwei Anw\u00e4lte reichten 2023 einen Schriftsatz ein, der sechs angebliche Gerichtsentscheidungen enthielt \u2013 alle von ChatGPT generiert, keine davon real. <\/p>\n\n\n\n Nachdem weder Gericht noch Gegenseite die Zitate verifizieren konnten, wurden die Anw\u00e4lte aufgefordert, die Quellen vorzulegen. Sie konnten dies nicht. <\/p>\n\n\n\n Richter Kevin Castel stellte klar: Die Entscheidungen seien nicht auffindbar, weil sie nie existiert h\u00e4tten. Die Anw\u00e4lte wurden zu einer Geldstrafe von 5.000 US-Dollar verurteilt und im Beschluss namentlich genannt. Der Fall sorgte international f\u00fcr Aufmerksamkeit. <\/p>\n\n\n\n Besonders schwer wog, dass die Anw\u00e4lte zun\u00e4chst behauptet hatten, die Entscheidungen seien echt \u2013 und anschlie\u00dfend sogar erfundene Dokumente vorlegten. Das Gericht wertete dies als Versuch, das Gericht zu t\u00e4uschen. <\/p>\n\n\n\n Diese F\u00e4lle sind keine Einzelf\u00e4lle, sondern Ausdruck eines strukturellen Risikos. F\u00fcr Anw\u00e4ltinnen und Anw\u00e4lte ergeben sich insbesondere drei zentrale Problemfelder: <\/p>\n\n\n\n Sorgfaltspflicht und Wahrheitspflicht<\/strong> <\/p>\n\n\n\n Nach \u00a7 43a Abs. 3 BRAO d\u00fcrfen keine unwahren Tatsachen vorgetragen werden. Das gilt auch f\u00fcr Inhalte, die fahrl\u00e4ssig aus KI-Outputs \u00fcbernommen wurden. <\/p>\n\n\n\n Haftungsrisiko<\/strong> <\/p>\n\n\n\n Wer einen Schriftsatz mit erfundenen Quellen einreicht, riskiert mehr als nur eine peinliche Situation. Mandanten k\u00f6nnen dadurch erheblichen Schaden erleiden \u2013 im schlimmsten Fall verlieren Sie ein Verfahren, das bei sorgf\u00e4ltiger Arbeit m\u00f6glicherweise gewonnen worden w\u00e4re. Die Haftungsfolgen f\u00fcr den verantwortlichen Anwalt sind entsprechend real. <\/p>\n\n\n\n Reputationsschaden<\/strong> <\/p>\n\n\n\n Gerichtliche Beschl\u00fcsse, die KI-bedingte Fehler dokumentieren, sind \u00f6ffentlich zug\u00e4nglich. Sie bleiben dauerhaft auffindbar \u2013 in Datenbanken, in Fachzeitschriften oder \u00fcber einfache Suchanfragen. Was einmal als Fehlzitat dokumentiert ist, bleibt in der Regel mit dem Namen des Anwalts verkn\u00fcpft. <\/p>\n\n\n\n Die Ursache liegt selten in mangelnder Fachkenntnis, sondern im Workflow. ChatGPT formuliert juristisch klingende Texte mit hoher sprachlicher \u00dcberzeugungskraft. Unter Zeitdruck wirkt ein solcher Entwurf oft plausibel \u2013 und wird schneller \u00fcbernommen, als es eigentlich verantwortbar ist. <\/p>\n\n\n\n Hinzu kommt: Das Tool selbst weist nicht darauf hin, wenn eine Quelle nicht existiert. Erfundenes wird mit derselben Sicherheit pr\u00e4sentiert wie korrekte Informationen. <\/p>\n\n\n\n Die Konsequenz ist nicht, auf KI zu verzichten \u2013 sondern sie kontrolliert einzusetzen. <\/p>\n\n\n\n Aus dem Beschluss des OLG Celle folgt klar: Auch beim Einsatz von KI bleiben die anwaltlichen Berufsrechtspflichten \u2013 insbesondere zur sorgf\u00e4ltigen \u00dcberpr\u00fcfung von Quellen \u2013 vollumf\u00e4nglich anwendbar. <\/p>\n\n\n\n Allgemeine KI-Tools wie ChatGPT sind nicht darauf ausgelegt, Rechtsquellen zu pr\u00fcfen. Sie haben keinen Zugriff auf juristische Datenbanken und geben keine Warnung aus, wenn eine Quelle nicht existiert. <\/p>\n\n\n\n Spezialisierte L\u00f6sungen wie BEAMON<\/a> gehen hier einen anderen Weg. <\/p>\n\n\n\n Antworten werden mit verifizierten Rechtsquellen verkn\u00fcpft, Zitate gegen Datenbanken gepr\u00fcft und mit nachvollziehbaren Quellenangaben versehen. Auch beim Datenschutz bestehen Unterschiede: BEAMON ist nach ISO 27001:2022 und SOC 2 Type II zertifiziert, erf\u00fcllt die Anforderungen der BRAO und \u00a7 203 StGB und verarbeitet Daten ausschlie\u00dflich innerhalb der EU\/EEA. Mandantendaten werden weder f\u00fcr Trainingszwecke genutzt noch weitergegeben. Mehr Informationen dar\u00fcber, finden Sie hier<\/a>. <\/p>\n\n\n\n Das bedeutet nicht, dass solche Tools fehlerfrei sind. Die anwaltliche Pr\u00fcfungspflicht bleibt bestehen. Der Unterschied liegt darin, dass Risiken systematisch reduziert werden \u2013 statt unbemerkt bestehen zu bleiben. <\/p>\n\n\n\n Die beschriebenen F\u00e4lle sprechen nicht gegen den Einsatz von KI in der Rechtspraxis. Sie zeigen vielmehr, wie wichtig ein bewusster Umgang damit ist. <\/p>\n\n\n\n KI kann juristische Arbeit effizienter machen \u2013 etwa bei der Strukturierung von Sachverhalten oder bei ersten Entw\u00fcrfen. Sie ersetzt jedoch keine fachliche Pr\u00fcfung. <\/p>\n\n\n\nWas rechtlich auf dem Spiel steht<\/strong> <\/h2>\n\n\n\n
Warum es trotzdem passiert<\/strong> <\/h2>\n\n\n\n
Was Anw\u00e4ltinnen und Anw\u00e4lte konkret tun m\u00fcssen<\/strong> <\/h2>\n\n\n\n
\n
\n
\n
\n
\n
Wie spezialisierte Legal AI das Risiko reduziert<\/strong> <\/h2>\n\n\n\n
Fazit: KI ja \u2013 aber mit Verantwortung. <\/h2>\n\n\n\n