面向特权案件的自托管法律大模型
本地部署、开源权重的法律大模型,带有司法辖区适配器和引文验证功能,服务于无法将特权文件发送至美国或中国云端的律所。
I want to build a venture-scale product. Help me plan and start the MVP.
Product: Self-hosted legal LLM for privileged matters
What it is: On-prem, open-weight legal LLM with jurisdiction adapters and citation verification for firms that can't send privileged files to US or Chinese clouds.
Who pays: Managing partners and GCs at 50–500 lawyer firms and regulated in-house teams handling sensitive matters; $2k–10k/mo per firm from the legal-tech/security budget
Closest alternatives: Harvey, CoCounsel (Thomson Reuters), Spellbook, self-hosted Llama/Qwen via vLLM
The gap: Harvey/CoCounsel are closed SaaS on US foundation labs whose usage policies explicitly allow judgment-based disclosure and require human-in-the-loop; consumer labs (Anthropic, OpenAI) and Chinese labs (Z.ai) are both disqualified for sensitive matters. No vendor ships an open-weight legal model with on-prem deployment, jurisdiction adapters and a clean data-provenance audit story aimed at firms.
Why now: Within the last year Anthropic formalized a policy allowing it to share user files with third parties when legal rights are affected, and Z.ai's workspace-snapshotting scandal plus the closed Chinese-model release made data sovereignty a live buying criterion rather than a theoretical concern.
Moat to build toward: Jurisdiction-specific adapter packs and citation-verification corpora compound with usage; trust/audit certification (SOC2, bar-association endorsements) is slow to copy.
可直接粘贴到 Claude Code、Cursor 或任何编程助手的需求说明(英文)。
6.1满分 10
支持理由
谁会付费律所管理合伙人和总法律顾问(50至500名律师规模的律所,以及处理敏感事务的受监管企业内部法务团队),每家每月2000至10000美元,预算来自法律科技或安全预算。
讨论中的声音
- EX.1指出Z.ai被发现对整个工作区进行快照,并质问一家无视隐私法的公司生产的法律产品怎么可能值得信任。查看评论 ↗
- EX.2指出Anthropic的人工介入及数据共享政策对于家事案件当事人而言很危险,因为他们的文件可能被泄露给对方律师。查看评论 ↗
- EX.3指出该模型是闭源的、部署在中国,因此来自美国和欧盟用户的私人法律数据将由一个对立的司法管辖区处理,且无法通过引渡追责。查看评论 ↗
为什么是现在
过去一年内,Anthropic正式制定政策,允许在涉及法律权利时与第三方共享用户文件;Z.ai被曝光对整个工作区进行快照,加上中国闭源模型的发布,使数据主权从理论问题变成了实际的采购标准。
反对理由
✕ 最可能的失败原因Harvey或Thomson Reuters推出私有云/VPC版本,并在新进入者建立信任之前锁定律所渠道。
红队最有力的反对意见
在特权案件中,数据主权已成为Harvey、Anthropic和Z.ai的硬性淘汰条件;而带有司法辖区包的开源权重本地法律模型确实是一个尚未被占据的位置。执行难度较大,但不会被现有厂商直接扼杀。
护城河 5/10
司法辖区专属的适配器包和引文验证语料库会随着使用不断积累;信任与审计认证(SOC2、律师协会背书)很难被复制。
现有产品
HarveyCoCounsel (Thomson Reuters)Spellbookself-hosted Llama/Qwen via vLLM
空白点Harvey和CoCounsel是基于美国基础模型实验室的封闭SaaS,其使用政策明确允许基于判断的披露,并要求人工介入;消费级实验室(Anthropic、OpenAI)和中国实验室(Z.ai)都因敏感案件而不符合要求。目前没有厂商提供面向律所的开源权重法律模型,同时具备本地部署、司法辖区适配器和清晰的数据来源审计方案。
三步做出来
- 1基于开源权重基础模型(Qwen或Llama)微调,为2个司法辖区添加法律适配器,并提供本地Docker部署
- 2构建引文验证层,将每一个引用的判例或法规与官方来源交叉核对,并拦截无法验证的输出
- 3与3家中等规模律所开展付费试点,使用其标准合同和备忘录工作流,衡量律师审阅时间的节省情况
本文译自英文。 阅读原文