Mehr als ein Legal-AI-Chatbot: Workflow mit Vertrauen | SmartLegAI

Warum ein Legal-AI-Chatbot nicht genügt: Quellenbindung, Nachvollziehbarkeit, Prüfkennzeichnungen, menschliche Kontrolle, Prüfprotokolle und Vertraulichkeit.

Ein Chatbot liefert Antworten; juristische Arbeit braucht Belege. Vertrauenswürdige Legal AI stützt Antworten auf abrufbare Quellen, kennzeichnet Unverifiziertes, lässt einen Menschen die Prüfung verantworten und dokumentiert, was geschehen ist – ohne ihre Schutzmechanismen zu überzeichnen.

Ein Legal-AI-Chatbot genügt für die berufliche Arbeit nicht, denn eine flüssige Antwort ist nicht dasselbe wie eine Antwort, für die man einstehen kann. Was Anwälte brauchen, ist ein Workflow: Antworten, die auf abrufbaren und lesbaren Quellen beruhen; Kennzeichnungen, die klar sagen, wenn eine Antwort nicht verifiziert ist; ein namentlich benannter Mensch, der prüft, bevor man sich auf etwas verlässt; eine Aufzeichnung dessen, was getan wurde; und Vertraulichkeitskontrollen, die zutreffend beschrieben sind. Nichts davon macht KI unfehlbar. Zusammen sorgen diese Elemente dafür, dass ihre Fehler leichter zu erkennen und schwerer weiterzugeben sind. Dieser Artikel legt dar, was jedes Element erfordert und wo die eigenen Schutzmechanismen von SmartLegAI enden. Hinweis des Herausgebers Dieser Artikel wird von SmartLegAI veröffentlicht und beschreibt unter anderem die eigenen Gestaltungsentscheidungen von SmartLegAI. Er enthält allgemeine Informationen über Legal Tech, ist keine Rechtsberatung und ersetzt weder das professionelle Urteil noch die Regeln Ihrer Rechtsordnung, Ihres Gerichts oder Ihrer Aufsichtsbehörde. Produktnamen und Marken gehören ihren jeweiligen Inhabern. Der Inhalt entspricht dem Stand von Oktober 2026 und wurde zuletzt am 10. Oktober 2026 aktualisiert. Das Problem ist nicht, dass Modelle Fehler machen Jede Quelle juristischer Information macht Fehler: Leitsätze, Lehrbücher, junge Associates. Das Problem eines allgemeinen Chatbots besteht darin, dass seine Fehler genauso aussehen wie seine richtigen Antworten. Ein Sprachmodell schreibt die plausibelste Fortsetzung eines Prompts. Verfügt es über gute Informationen, ist diese Fortsetzung oft richtig. Verfügt es nicht darüber, kann es eine korrekt formatierte Fundstelle zu einem plausiblen Gericht für eine Entscheidung erzeugen, die nicht existiert oder nicht das aussagt, was behauptet wird. Der Berufsstand hat darauf reagiert, indem er eine alte Regel bekräftigt hat, statt eine neue zu erfinden. Die ABA Formal Opinion 512 (Juli 2024) des US-amerikanischen Anwaltsverbands American Bar Association hält fest, dass der Anwalt unabhängig vom gewählten Prüfumfang die volle Verantwortung für die Arbeit trägt und dass KI-Ergebnisse sorgfältig geprüft werden müssen, damit gegenüber einem Gericht keine unwahren Behauptungen aufgestellt werden. Die Formal Opinion 2024-5 der New York City Bar warnt, dass generative KI erfundene Entscheidungen und Fundstellen hervorbringen kann und Anwälte die Ergebnisse prüfen müssen. Die Advisory Opinion 2025-05 aus Washington stellt klar, dass Anwälte ihr professionelles Urteil und ihre Verantwortung nicht an KI-Tools abtreten dürfen. In England und Wales erklärte der Divisional Court in Ayinde v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin), dass die entscheidende Schutzmaßnahme darin besteht, jedes Ergebnis anhand einer maßgeblichen Quelle zu prüfen. Diese Quellen legen die Verantwortung auf den Anwalt. Sie schreiben nicht vor, dass Tools auf eine bestimmte Weise gebaut sein müssen. Sie werfen aber eine Gestaltungsfrage auf: Erleichtert oder erschwert das Tool dem Anwalt die Prüfarbeit? Was ein Chatbot bietet und was ein Workflow hinzufügt | Merkmal | Allgemeiner Chatbot | Vertrauenswürdiger Legal-AI-Workflow | | Grundlage der Antwort | Training des Modells und der Prompt | Abgerufene Quellen plus der Prompt | | Fundstellen | Möglicherweise aus dem Gedächtnis erzeugt | Mit einer abrufbaren Quelle verknüpft | | Nicht verifizierte Antworten | Wie jede andere dargestellt | Gekennzeichnet oder zurückgehalten | | Rechtsordnung | Abgeleitet, oft stillschweigend | Ausgewählt und ausdrücklich genannt | | Grenzen der Abdeckung | Selten offengelegt | Je Rechtsordnung offengelegt | | Menschliche Prüfung | Außerhalb des Tools | Innerhalb des Workflows dokumentiert | | Nutzungsnachweis | Höchstens der Chatverlauf | Prüfprotokoll wichtiger Aktionen | | Vertraulichkeit | Abhängig von Verbraucherbedingungen | Dokumentierte Kontrollen und Grenzen | Der Rest dieses Artikels behandelt die Merkmale des Workflows der Reihe nach. Quellenbindung durch Retrieval Quellenbindung (Grounding) bedeutet, dass das System zuerst relevante Dokumente abruft und seine Antwort daraus aufbaut, statt sich auf das zu verlassen, woran sich das Modell zufällig erinnert. Das Verfahren wird oft als Retrieval-Augmented Generation (abrufgestützte Generierung) bezeichnet. Es verändert die Frage von „Hat das Modell recht?“ zu „Hat das System die richtigen Quellen gefunden, und folgt die Antwort aus ihnen?“ Beide Fragen lassen sich überprüfen. Unsere Übersicht zur quellengestützten Rechtsrecherche zeigt, wie das in der Praxis aussieht. Die Quellenbindung hat Grenzen, die ein vertrauenswürdiges Tool einräumen sollte. Sie ist nur so gut wie die Quellensammlung: Ist die Rechtsprechung einer Rechtsordnung weder gespeichert noch abrufbar, kann die Quellenbindung dort nicht helfen. Das Retrieval kann zudem das relevanteste Dokument übersehen oder ein veraltetes zutage fördern. Und die Anweisung an ein Modell, sich ausschließlich auf abgerufenes Material zu stützen, verringert die Wahrscheinlichkeit, dass es auf sein allgemeines Training zurückgreift, beseitigt sie aber nicht. Keine Prompt-Anweisung garantiert das Verhalten eines Modells. Nachvollziehbarkeit der Quellen Jede Fundstelle, auf die sich eine Antwort stützt, sollte auf etwas verweisen, das der Anwalt öffnen kann: das Urteil, das Gesetz, die Verordnung. Nachvollziehbarkeit macht aus der Verifizierung statt eines Rechercheprojekts eine Leseaufgabe. Sie deckt zudem einen häufigen Fehler auf: eine echte Entscheidung, die für eine Aussage zitiert wird, die sie nicht stützt. Eine Prüfung, ob eine Fundstelle existiert – etwa die Citation Lookup API von CourtListener, die das Free Law Project als mögliche Schutzvorrichtung gegen halluzinierte Fundstellen beschreibt –, kann bestätigen, dass eine US-Fundstelle in ihrer Datenbank existiert. Nur das Lesen der Passage bestätigt, dass sie den Punkt stützt. Prüfkennzeichnungen Das Nützlichste, was ein Legal-AI-Tool sagen kann, ist manchmal: „Das konnte ich nicht verifizieren.“ Kennzeichnungen machen den Status jeder Antwort sichtbar, bevor der Anwalt sie liest. In SmartLegAI tragen Rechercheantworten Vertrauensstufen wie „verifiziert“, „teilweise verifiziert“, „nicht verifiziert“, „nicht gefunden“, „Widerspruch“ und „blockiert“. Als verifiziert wird eine Antwort nur gekennzeichnet, wenn die abgerufenen Belege einen unabhängigen Verifizierungsschritt bestanden haben. Die Fallanalyse läuft im verifizierten Modus, wenn geeignete Fundstellen gefunden werden, und liefert andernfalls eine klar gekennzeichnete allgemeine Analyse. Eine Kennzeichnung ist keine Garantie. „Verifiziert“ bedeutet, dass die Belegprüfung des Systems bestanden wurde; es bedeutet nicht, dass die Fundstelle vor Ihrem Gericht noch geltendes Recht ist oder dass das Argument trägt. Das bleibt das Urteil des Anwalts. Nicht verifizierte Antworten ablehnen oder kennzeichnen Es gibt zwei redliche Wege, mit einer Frage umzugehen, die das System nicht quellengestützt beantworten kann: die Antwort verweigern oder antworten und das Ergebnis als allgemeine Analyse kennzeichnen. Beides ist vertretbar. Nicht vertretbar ist es, eine nicht quellengestützte Antwort im selben Format wie eine quellengestützte darzustellen. Ein vertrauenswürdiger Workflow sagt außerdem, wenn er etwas wegen fehlender Abdeckung nicht weiß. Die gespeicherten Rechtsdaten von SmartLegAI konzentrieren sich auf arabische Rechtsordnungen (Saudi-Arabien, Kuwait, Ägypten, Jordanien und die VAE, mit kleineren Beständen für Palästina, Katar, Irak und Oman), europäisches Material zu Menschenrechten und zum EU-Recht sowie US-Rechtsprechung, die live über CourtListener abgerufen wird. Für viele andere Rechtsordnungen kann es eine allgemeine KI-Antwort geben, doch quellenverifizierte Antworten hängen von Quellen ab, die es speichern oder abrufen kann. Die Abdeckung ist ungleichmäßig, und Leser sollten ihre eigene Rechtsordnung im Produkt prüfen. Menschliche Prüfung, die dokumentiert und nicht nur vorausgesetzt wird „Ein Anwalt sollte das prüfen“ ist schnell gesagt. Die Prüfung in den Workflow einzubauen, ist schwieriger und nützlicher. Das bedeutet, dem Anwalt zu ermöglichen, einem Mandat Fundstellen zuzuordnen, ausgewählte Passagen mit dem Quelltext zu vergleichen und seine eigene Entscheidung festzuhalten, einschließlich der Frage, ob eine Prüfung der Fortgeltung erfolgt ist und mit welchem Zitierdienst. SmartLegAI unterstützt diese Schritte. Es enthält keinen automatisierten Zitierdienst, der KeyCite oder Shepard's entspricht; die Prüfung der Fortgeltung ist daher ein manueller Schritt, den der Anwalt dokumentiert. Kanzleien, die im Recherchealltag einen automatisierten Zitierdienst benötigen, werden ergänzend oder stattdessen eine auf Westlaw oder Lexis basierende Plattform einsetzen wollen. Auch die Aufsicht ist wichtig. Nach der ABA Opinion 512 müssen Anwälte in Leitungsfunktion klare Richtlinien zum zulässigen KI-Einsatz festlegen. Die WSBA Opinion 2025-05 hält fest, dass Aufsichtführende Anwälte und Nichtanwälte schulen und KI-gestützte Arbeit gründlich prüfen sollen, statt nur flüchtig darüberzuschauen. Ein Tool, das festhält, wer was geprüft hat, macht diese Aufsicht nachweisbar. Freigabeschritte sind eine verwandte Kontrolle. In den Verhandlungsräumen von SmartLegAI sind Dokumentenaustausch, Freigaben und Unterzeichnungszyklen in einen festgelegten Prozess mit Prüfprotokoll eingebettet, sodass der Schritt von den vereinbarten Bedingungen zum unterzeichneten Dokument sichtbar ist. Prüfprotokoll Wenn etwas schiefgeht, muss eine Kanzlei einfache Fragen beantworten können: Was wurde erstellt, für welches Mandat, von wem und wann? Ein Chatverlauf beantwortet sie selten. Ein Prüfprotokoll wichtiger Aktionen schon. SmartLegAI führt Prüfprotokolle für ausgewählte Aktionen, und seine Verhandlungsräume führen ein Prüfprotokoll. Das ist keine vollständige Aufzeichnung jedes Tastendrucks; Kanzleien sollten prüfen, was protokolliert wird, und dies mit ihren eigenen Richtlinien zu Aufbewahrung und Aufsicht abgleichen. Das NIST AI Risk Management Framework, gegliedert in vier Funktionen (Govern, Map, Measure und Manage), und sein im Juli 2024 veröffentlichtes Generative AI Profile sind nützliche Referenzen für Kanzleien, die solche Richtlinien verfassen. Vertraulichkeit, zutreffend beschrieben Bei Vertraulichkeitsversprechen übertreibt das Marketing für Legal AI am häufigsten; deshalb kommt es auf Präzision an. Nach der ABA Opinion 512 ist die informierte Einwilligung des Mandanten erforderlich, bevor Mandanteninformationen in selbstlernende Tools eingegeben werden, die sie offenlegen könnten, und eine Einwilligung über Standardformulierungen in der Mandatsvereinbarung reicht nicht aus. Die WSBA Opinion 2025-05 hält fest, dass Anwälte vertrauliche Informationen nicht mit einem KI-Produkt teilen sollten, ohne zu prüfen, ob dessen Bedingungen sie schützen. Die im Oktober 2025 aktualisierte britische Leitlinie der Justiz zu KI erinnert Richter und andere Amtsträger der Justiz daran, keine privaten Informationen in öffentliche KI-Tools einzugeben. Das leistet SmartLegAI und das leistet es nicht: Daten werden bei der Übertragung durch HTTPS geschützt, mit sicheren Session-Cookies, rollenbasiertem Zugriff, signiertem Dateizugriff, Prüfprotokollen für ausgewählte Aktionen und Ratenbegrenzungen. Juristische Inhalte werden von einem externen Anbieter von KI-Modellen verarbeitet. Die Datenschutzerklärung beansprucht keine Compliance-Zertifizierung; Kanzleien, deren Beschaffungsrichtlinien Nachweise zu SOC 2 oder ISO 27001 verlangen, sollten dies als Lücke behandeln. Fragen Sie jeden Anbieter, SmartLegAI eingeschlossen, nach den Bedingungen des Modellanbieters, der Datenspeicherung und der Nutzung für Trainingszwecke, und lassen Sie sich die Antwort schriftlich geben. Eine frühere Fassung dieses Artikels besagte, dass Mandantendaten bei aktiviertem Confidential Mode das Gerät nie verlassen. Das war überzeichnet. Der Confidential Mode (Vertraulichkeitsmodus) ist optional, wird vom Nutzer aktiviert und ist nur in der Vertragsbearbeitung und der Vertragsrisikoanalyse verfügbar, nicht in der Fallanalyse oder der Recherche. Ist er aktiviert, werden Namen, Ausweisnummern und ähnliche Kennungen im Browser durch Platzhalter (Tokens) ersetzt, bevor der Text zur KI-Verarbeitung gesendet wird. Der übrige Inhalt des Dokuments wird weiterhin gesendet, und die Erkennung von Kennungen erfasst möglicherweise nicht alles. Der Modus verringert das Risiko; er erspart Ihnen nicht die Entscheidung, was Sie hochladen. Was damit nicht gelöst ist Ein vertrauenswürdiger Workflow verkleinert die Fehlerfläche. Er kann nicht: - ein Modell frei von Halluzinationen machen oder Richtigkeit garantieren; - einen Zitierdienst oder die Lektüre der Fundstelle durch den Anwalt ersetzen; - Abdeckung für Rechtsordnungen schaffen, deren Quellen weder gespeichert noch abrufbar sind; - Verfahrensausgänge vorhersagen (SmartLegAI schätzt bewusst keine Gewinnwahrscheinlichkeit); - für sich allein die berufsrechtlichen Pflichten einer Kanzlei erfüllen. So messen Sie jedes Legal-AI-Tool an diesem Standard - Fragen Sie, ob jede Antwort ihre Quellen zeigt, und öffnen Sie drei davon. - Fragen Sie, was das Tool tut, wenn es keine Quelle findet: ablehnen, kennzeichnen oder raten. - Fragen Sie, für welche Rechtsordnungen gespeicherte oder abrufbare Quellen vorliegen und für welche es nur allgemeine Antworten gibt. - Fragen Sie, wo Prüfentscheidungen und Prüfungen der Fortgeltung dokumentiert werden. - Fragen Sie, was protokolliert wird, wie lange und wer es einsehen kann. - Lassen Sie sich Modellanbieter, Datenspeicherung und Bedingungen zur Nutzung für Trainingszwecke schriftlich geben. Unser Leitfaden So wählen Sie Legal-AI-Software aus macht aus diesen Fragen einen vollständigen Bewertungsplan. Produktvergleiche finden Sie unter die beste Legal-AI-Software für Anwälte und KI-Tools für die Rechtsrecherche. Für die alltäglichen Prüfschritte lesen Sie unseren praktischen Leitfaden zur Verifizierung von KI-Fallanalyse und Recherche. Fazit Vertrauen in Legal AI ist keine Funktion, die ein Anbieter ankündigen kann. Es entsteht aus einem Workflow, in dem Antworten quellengestützt und nachvollziehbar sind, nicht verifizierte Antworten gekennzeichnet werden, Grenzen der Abdeckung offengelegt werden, die Prüfung durch einen Anwalt dokumentiert wird, wichtige Aktionen protokolliert werden und Vertraulichkeitskontrollen ohne Übertreibung beschrieben sind. Messen Sie jedes Tool an diesem Standard, auch unseres. Wie SmartLegAI ihn in Recherche und Fallanalyse umsetzt, sehen Sie auf der Seite zur KI-gestützten Rechtsrecherche oder in der Übersicht für Anwälte; wenn Sie so weit sind, starten Sie eine 14-tägige Testphase oder vergleichen Sie die Tarife. Quellen - American Bar Association — ABA issues first ethics guidance on a lawyer's use of AI tools (abgerufen am 10. Oktober 2026) - American Bar Association — Formal Opinion 512: Generative Artificial Intelligence Tools (abgerufen am 10. Oktober 2026) - New York City Bar Association — Formal Opinion 2024-5: Generative AI in the Practice of Law (abgerufen am 10. Oktober 2026) - Washington State Bar Association — Advisory Opinion 2025-05: Artificial Intelligence-Enabled Tools in Law Practice (abgerufen am 10. Oktober 2026) - Courts and Tribunals Judiciary — Ayinde v London Borough of Haringey and Al-Haroun v Qatar National Bank, 2025 EWHC 1383 (Admin), Urteil (abgerufen am 10. Oktober 2026) - Courts and Tribunals Judiciary — Artificial Intelligence (AI) Judicial Guidance (October 2025) (abgerufen am 10. Oktober 2026) - NIST — AI Risk Management Framework (abgerufen am 10. Oktober 2026) - Free Law Project — CourtListener Citation Lookup API documentation (abgerufen am 10. Oktober 2026)

Warum ist ein allgemeiner KI-Chatbot für die juristische Recherche riskant?

Ein Chatbot kann aus seinem Training antworten statt aus abgerufenen Quellen, und seine falschen Antworten sehen aus wie seine richtigen. Er kann eine korrekt formatierte Fundstelle für eine Entscheidung erzeugen, die nicht existiert oder den Punkt nicht stützt. Ohne Verweise auf Quellen oder Kennzeichnungen, die zeigen, was nicht verifiziert ist, muss der Anwalt die Recherche zur Überprüfung neu aufbauen, was einen Großteil des Zwecks zunichtemacht.

Verhindert Retrieval-Augmented Generation KI-Halluzinationen?

Sie verringert sie, verhindert sie aber nicht. Das Retrieval gibt dem Modell relevante Dokumente als Arbeitsgrundlage, und Anweisungen können es auffordern, sich darauf zu stützen, doch kein Prompt garantiert das Verhalten des Modells. Das Retrieval kann zudem die beste Quelle übersehen oder eine veraltete zutage fördern. Betrachten Sie die Quellenbindung als Mittel, Antworten überprüfbar zu machen, und prüfen Sie trotzdem jede Fundstelle anhand der Primärquelle.

Was bedeutet die Kennzeichnung „verifiziert“ bei einer Legal-AI-Antwort?

Sie sollte bedeuten, dass das System geprüft hat, ob die abgerufenen Belege die Antwort stützen. In SmartLegAI wird eine Antwort nur als verifiziert gekennzeichnet, wenn die abgerufenen Belege einen unabhängigen Verifizierungsschritt bestanden haben. Sie bedeutet nicht, dass die Fundstelle noch geltendes Recht ist, dass sie Ihr Gericht bindet oder dass das Argument trägt. Diese Prüfungen bleiben Aufgabe des Anwalts und werden im Rahmen der Prüfung dokumentiert.

Hält der Confidential Mode von SmartLegAI Mandantendaten auf meinem Gerät?

Nein. Der Confidential Mode ist optional, wird vom Nutzer aktiviert und ist nur in der Vertragsbearbeitung und der Vertragsrisikoanalyse verfügbar. Er ersetzt Namen, Ausweisnummern und ähnliche Kennungen im Browser durch Platzhalter, bevor der Text zur KI-Verarbeitung gesendet wird, doch der übrige Inhalt des Dokuments wird weiterhin an einen externen Anbieter von KI-Modellen gesendet. Er verringert das Risiko; er ersetzt nicht Ihr Urteil darüber, was Sie hochladen.

Was sollte ein Prüfprotokoll für Legal AI aufzeichnen?

Mindestens, was erstellt wurde, für welches Mandat, von wem und wann, dazu wichtige Aktionen wie das Hochladen von Dokumenten, Freigaben und Unterschriften. Idealerweise werden auch Prüfentscheidungen und Prüfungen der Fortgeltung festgehalten. Prüfen Sie, was ein Tool tatsächlich protokolliert und wie lange, und gleichen Sie das mit den Aufsichts- und Aufbewahrungsrichtlinien Ihrer Kanzlei ab, bevor Sie sich zur Nachweisführung darauf verlassen.

Schreiben die Berufsregeln Anwälten eine bestimmte Art von KI-Tool vor?

Nein. Leitlinien wie die ABA Formal Opinion 512, die NYC Bar Formal Opinion 2024-5 und die WSBA Advisory Opinion 2025-05 legen die Verantwortung auf den Anwalt, nicht auf die Gestaltung des Tools. Sie verlangen Kompetenz, Vertraulichkeit, angemessene Aufsicht und Wahrheit gegenüber dem Gericht. Tools, die Antworten auf Quellen stützen und die Prüfung dokumentieren, erleichtern die Erfüllung dieser Pflichten, erfüllen sie aber nicht für Sie.

SmartLegAI