超越法律AI聊天机器人：构建可信工作流程 | SmartLegAI

为什么仅有法律AI聊天机器人还不够：检索增强与来源依据、来源可追溯、核实标签、有记录的人工审阅、审计追踪以及如实描述的保密控制措施。

聊天机器人给出的是答案，而法律工作需要的是证据。可信的法律AI以可检索的来源为回答依据，标明哪些内容未经核实，由人工审阅者掌控，并记录发生了什么，同时不夸大自身的保障措施。

法律AI聊天机器人不足以胜任专业工作，因为流畅的回答并不等于您可以为之负责的回答。律师需要的是一套工作流程：回答以可检索、可阅读的来源为依据；当回答未经核实时，有标签明确说明；在依赖任何内容之前，由一名指定的人员进行审阅；对所做工作留有记录；保密控制措施的描述准确无误。这些都不能让AI永不出错，但结合在一起，它们能让AI的错误更容易被发现、更难被传递下去。本文阐述每一要素的具体要求，以及SmartLegAI自身保障措施的边界所在。 发布方声明 本文由SmartLegAI发布，其中也介绍了SmartLegAI自身的设计选择。本文属于关于法律科技的一般性信息，不构成法律意见，也不能替代专业判断或您所在法域、法院及监管机构的规则。产品名称和商标归各自权利人所有。本文内容截至2026年10月，最近更新于2026年10月10日。 问题不在于模型会出错 每一种法律信息来源都会出错：判例要旨、教科书、初级律师皆是如此。通用聊天机器人的问题在于，它的错误回答与正确回答看起来一模一样。语言模型写出的是对提示词最“合理”的续写。当它掌握良好的信息时，续写往往是正确的；当它不掌握时，它可能以正确的格式、针对一个看似合理的法院，给出一个根本不存在、或内容与所述不符的案例引注。 法律职业界的回应是重申一条古老的规则，而不是发明一条新规则。美国律师协会（ABA）第512号正式意见（2024年7月）指出，无论律师选择何种审阅程度，律师都对工作成果承担全部责任，并且必须仔细审阅AI输出，以确保向法院作出的陈述不失实。纽约市律师协会第2024-5号正式意见警告，生成式AI可能编造案例和引注，律师必须核查其输出。华盛顿州第2025-05号咨询意见指出，律师不得将其专业判断或责任让渡给AI工具。在英格兰及威尔士，高等法院合议庭（Divisional Court）在Ayinde v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin)案中指出，关键的保障措施是对照权威来源核查任何输出。 这些来源都把责任放在律师身上，并没有规定工具必须以某种方式构建。但它们确实隐含了一个设计问题：这款工具是让律师的核查工作更容易，还是更困难？ 聊天机器人能给您什么，工作流程又增加了什么 | 特征 | 通用聊天机器人 | 可信的法律AI工作流程 | | 回答依据 | 模型的训练数据和提示词 | 检索到的来源加提示词 | | 引注 | 可能凭“记忆”生成 | 链接到可检索的来源 | | 未经核实的回答 | 与其他回答呈现方式相同 | 加注标签，或不予提供 | | 法域 | 由系统推断，且往往不加说明 | 经选择并明确说明 | | 覆盖范围限制 | 很少披露 | 按法域逐一披露 | | 人工审阅 | 在工具之外进行 | 在工作流程内部留有记录 | | 使用记录 | 至多是聊天记录 | 关键操作的审计追踪 | | 保密 | 取决于面向消费者的条款 | 有文档记载的控制措施及其局限 | 本文其余部分将逐一讨论工作流程的各项特征。 检索增强与来源依据 以来源为依据，是指系统先检索相关文件，再基于这些文件构建回答，而不是依赖模型碰巧记住的内容。这一技术通常被称为检索增强生成（RAG）。它把问题从“模型对不对？”变成了“系统是否找到了正确的来源，回答是否源自这些来源？”这两个问题都可以核查。我们的以来源为依据的法律检索概览展示了其实际运作方式。 以来源为依据也有其局限，可信的工具应当如实承认。它的效果取决于来源库：如果某一法域的判例未被存储或无法检索，来源依据就无从发挥作用。检索也可能遗漏最相关的文件，或调出已经过时的文件。此外，指示模型仅依赖检索到的材料，只能降低、而不能消除它借用一般训练知识的可能性。任何提示词指令都无法保证模型的行为。 来源可追溯 回答所依赖的每一项权威依据，都应链接到律师可以打开查看的内容：判决、法律、法规。可追溯性把核实工作从一个检索项目变成了一项阅读任务。它还能暴露一种常见失误：为某一主张引用了一个真实存在、却并不支持该主张的案例。引注存在性核查，例如Free Law Project称可作为防范虚构引注一道防线的CourtListener Citation Lookup API，可以确认某一美国判例引注存在于其数据库中。但只有阅读相关段落，才能确认它是否支持该论点。 核实标签 法律AI工具能说出的最有用的话，有时恰恰是“我无法核实这一点”。标签让每条回答的状态在律师阅读之前就清晰可见。在SmartLegAI中，检索回答带有“已核实”“部分核实”“未核实”“未找到”“存在冲突”“已阻止”等可信度标签。只有当检索到的证据通过独立的核实步骤后，回答才会被标注为“已核实”。当找到符合条件的权威依据时，案件分析会以“已核实”模式运行；否则会返回一份明确标注的一般性分析。 标签并不是保证。“已核实”意味着系统的证据核查已经通过，并不意味着该权威依据在您所在的审理机构仍然有效，也不意味着论证是成立的。这些仍然取决于律师的判断。 拒绝回答或标注未经核实的回答 对于系统无法找到来源依据的问题，有两种诚实的处理方式：拒绝回答，或者给出回答并将结果标注为一般性分析。两者都说得过去。说不过去的是，把没有来源依据的回答以与有来源依据的回答相同的形式呈现。可信的工作流程还会在因覆盖范围所限而无法回答时如实说明。SmartLegAI存储的法律数据集中于阿拉伯国家法域（沙特阿拉伯、科威特、埃及、约旦和阿联酋，另有规模较小的巴勒斯坦、卡塔尔、伊拉克和阿曼数据集）、欧洲人权及欧盟资料，以及通过CourtListener实时检索的美国判例。对于许多其他法域，它可以给出一般性的AI回答，但经来源核实的回答取决于它能够存储或检索的来源。覆盖范围并不均衡，读者应在产品内确认自己所在法域的情况。 有记录的人工审阅，而非想当然的审阅 说一句“应由律师审阅”很容易；把审阅嵌入工作流程则更难，也更有用。这意味着要让律师能够把权威依据关联到案件、将选定段落与来源文本进行比对，并记录自己的决定，包括是否进行了有效性核查、使用的是哪一种引证核查工具。SmartLegAI支持这些步骤。它不包含相当于KeyCite或Shepard's的自动化引证核查工具，因此有效性核查是由律师记录的人工步骤。需要在日常检索中使用自动化引证核查工具的律所，会希望同时使用、或改用以Westlaw或Lexis为基础的平台。 监督同样重要。ABA第512号意见指出，负有管理职责的律师必须就允许的AI使用制定明确政策。华盛顿州律师协会第2025-05号意见指出，监督者应当培训律师和非律师人员，并应认真审阅AI辅助完成的工作，而不是草草一瞥。一款能记录谁审阅了什么的工具，可以让这种监督有据可查。 审批关口是一项相关的控制措施。在SmartLegAI的谈判室中，文件交换、审批和签署流程都处于一个设定好的程序之中，并附有审计追踪，因此从商定条款到签署文件的每一步都清晰可见。 审计追踪 一旦出现问题，律所需要回答几个简单的问题：产出了什么、针对哪个案件、由谁、在何时。聊天记录很少能回答这些问题，关键操作的审计追踪则可以。SmartLegAI对选定的操作保留审计日志，其谈判室也保留审计追踪。这并不是对每一次键盘输入的完整记录，律所应对照自身的留存和监督政策，核查哪些内容被记录。围绕四项职能（治理、映射、度量和管理）构建的NIST《人工智能风险管理框架》，以及2024年7月发布的《生成式人工智能配置文件》，是律所制定这些政策时有用的参考。 准确描述保密措施 保密声明是法律AI营销中最常言过其实的地方，因此精确至关重要。ABA第512号意见指出，在将客户信息输入可能披露该信息的自学习工具之前，须取得客户的知情同意，而委托协议中的格式化同意条款并不足够。华盛顿州律师协会第2025-05号意见指出，律师在未核实AI产品的条款能够保护保密信息之前，不应与其共享该等信息。英国司法机构于2025年10月更新的人工智能司法指引，提醒司法人员不要将非公开信息输入公共AI工具。 以下是SmartLegAI能做和不能做的事情。数据在传输过程中受HTTPS保护，并配有安全会话Cookie、基于角色的访问控制、签名文件访问、选定操作的审计日志以及访问频率限制。法律内容由第三方AI模型提供商处理。隐私政策并未声称取得任何合规认证，因此采购流程要求提供SOC 2或ISO 27001证明的律所，应将此视为一项缺口。请向任何厂商（包括SmartLegAI）询问模型提供商条款、数据留存和训练用途，并取得书面答复。 本文的早期版本曾称，开启保密模式（Confidential Mode）后，客户数据永远不会离开设备。这一说法言过其实。保密模式是可选的，需由用户手动开启，且仅在合同编辑和合同风险分析中提供，案件分析和法律检索中并不提供。开启后，在文本发送进行AI处理之前，姓名、证件号码及类似身份标识会在浏览器中被替换为标记符。文件的其余部分仍会被发送，而且身份标识的识别未必能做到万无一失。它降低了暴露风险，但并不能免除您决定上传哪些内容的责任。 这些措施解决不了什么 可信的工作流程缩小了出错的范围，但它不能： - 让模型不再产生幻觉，或保证准确性； - 替代引证核查工具，或替代律师对权威依据的阅读； - 为来源未被存储或无法检索的法域提供覆盖； - 预测案件结果（SmartLegAI有意不估算胜诉概率）； - 单凭自身就满足律所的职业伦理义务。 如何按照这一标准评估任何法律AI工具 - 询问每条回答是否显示其来源，并打开其中三个加以查看。 - 询问工具在找不到来源时会怎么做：拒绝回答、加注标签，还是猜测。 - 询问哪些法域有存储的或可检索的来源，哪些法域只能给出一般性回答。 - 询问审阅决定和有效性核查记录在何处。 - 询问记录了哪些内容、保存多长时间、谁可以查看。 - 要求以书面形式提供模型提供商、数据留存和训练用途方面的条款。 我们的如何选择法律AI软件指南把这些问题转化为一份完整的评估方案。产品对比请参阅律师法律AI软件推荐和AI法律检索工具。关于日常核查步骤，请阅读我们实用的AI案件分析与法律检索核查指南。 结论 对法律AI的信任，不是厂商宣布一下就能拥有的功能。它来自这样一套工作流程：回答有来源依据且可追溯，未经核实的回答加注标签，覆盖范围限制得到说明，律师的审阅留有记录，关键操作有日志可查，保密控制措施的描述不夸大其词。请用这一标准要求每一款工具，包括我们的工具。如需了解SmartLegAI如何在法律检索和案件分析中贯彻这一标准，请访问AI法律检索页面或律师专页概览；准备就绪后，即可开始14天试用或比较各套餐。 资料来源 - American Bar Association — ABA issues first ethics guidance on a lawyer's use of AI tools（访问日期：2026年10月10日） - American Bar Association — Formal Opinion 512: Generative Artificial Intelligence Tools（访问日期：2026年10月10日） - New York City Bar Association — Formal Opinion 2024-5: Generative AI in the Practice of Law（访问日期：2026年10月10日） - Washington State Bar Association — Advisory Opinion 2025-05: Artificial Intelligence-Enabled Tools in Law Practice（访问日期：2026年10月10日） - Courts and Tribunals Judiciary — Ayinde v London Borough of Haringey and Al-Haroun v Qatar National Bank, 2025 EWHC 1383 (Admin), judgment（访问日期：2026年10月10日） - Courts and Tribunals Judiciary — Artificial Intelligence (AI) Judicial Guidance (October 2025)（访问日期：2026年10月10日） - NIST — AI Risk Management Framework（访问日期：2026年10月10日） - Free Law Project — CourtListener Citation Lookup API documentation（访问日期：2026年10月10日）

为什么用通用AI聊天机器人做法律检索存在风险？

聊天机器人可能依据其训练数据而非检索到的来源作答，而它的错误回答与正确回答看起来并无二致。它可能为一个并不存在、或并不支持该论点的案例，给出格式正确的引注。如果没有来源链接，也没有标明哪些内容未经核实的标签，律师就不得不重做检索来加以核查，这在很大程度上使使用工具失去了意义。

检索增强生成能杜绝AI幻觉吗？

它能减少幻觉，但不能杜绝。检索为模型提供了可据以作答的相关文件，指令也可以要求模型依赖这些文件，但任何提示词都无法保证模型的行为。检索还可能遗漏最佳来源，或调出已经过时的来源。请把来源依据视为让回答可供核查的一种方式，并仍须对照原始来源核实每一项权威依据。

法律AI回答上的“已核实”标签是什么意思？

它应当意味着系统已核查检索到的证据支持该回答。在SmartLegAI中，只有当检索到的证据通过独立的核实步骤后，回答才会被标注为“已核实”。这并不意味着该权威依据仍然有效、对您所在的审理机构具有约束力，或论证是成立的。这些仍需由律师核查，并作为审阅的一部分加以记录。

SmartLegAI的保密模式会让客户数据留在我的设备上吗？

不会。保密模式是可选的，需由用户手动开启，且仅在合同编辑和合同风险分析中提供。它会在文本发送进行AI处理之前，在浏览器中将姓名、证件号码及类似身份标识替换为标记符，但文件的其余部分仍会被发送给第三方AI模型提供商。它降低了暴露风险，但不能替代您对上传内容的判断。

法律AI的审计追踪应记录哪些内容？

至少应记录产出了什么、针对哪个案件、由谁、在何时，以及文件上传、审批和签署等关键操作。理想情况下，审阅决定和有效性核查也应记录在案。在依赖工具实现问责之前，请核查它实际记录了哪些内容、保存多长时间，并与律所的监督和留存政策进行比对。

职业伦理规则是否要求律师使用某一特定类型的AI工具？

不要求。ABA第512号正式意见、纽约市律师协会第2024-5号正式意见和华盛顿州律师协会第2025-05号咨询意见等指引，都把责任放在律师身上，而不是放在工具设计上。它们要求的是胜任能力、保密、适当监督以及对法庭的坦诚。以来源为回答依据并记录审阅的工具，能让这些义务更容易履行，但不能代替您履行。

SmartLegAI