Самохостируемая юридическая LLM для привилегированных дел
On-prem открытая языковая модель для права с адаптерами юрисдикций и проверкой цитат для фирм, которые не могут отправлять привилегированные файлы в облака США или Китая.
I want to build a venture-scale product. Help me plan and start the MVP.
Product: Self-hosted legal LLM for privileged matters
What it is: On-prem, open-weight legal LLM with jurisdiction adapters and citation verification for firms that can't send privileged files to US or Chinese clouds.
Who pays: Managing partners and GCs at 50–500 lawyer firms and regulated in-house teams handling sensitive matters; $2k–10k/mo per firm from the legal-tech/security budget
Closest alternatives: Harvey, CoCounsel (Thomson Reuters), Spellbook, self-hosted Llama/Qwen via vLLM
The gap: Harvey/CoCounsel are closed SaaS on US foundation labs whose usage policies explicitly allow judgment-based disclosure and require human-in-the-loop; consumer labs (Anthropic, OpenAI) and Chinese labs (Z.ai) are both disqualified for sensitive matters. No vendor ships an open-weight legal model with on-prem deployment, jurisdiction adapters and a clean data-provenance audit story aimed at firms.
Why now: Within the last year Anthropic formalized a policy allowing it to share user files with third parties when legal rights are affected, and Z.ai's workspace-snapshotting scandal plus the closed Chinese-model release made data sovereignty a live buying criterion rather than a theoretical concern.
Moat to build toward: Jurisdiction-specific adapter packs and citation-verification corpora compound with usage; trust/audit certification (SOC2, bar-association endorsements) is slow to copy.
Готовое ТЗ, которое можно вставить в Claude Code, Cursor или любого ИИ-агента для кода (на английском).
Аргументы за
- EX.1Указывает, что Z.ai был замечен в снимках целых рабочих пространств, и спрашивает, как можно доверять юридическому продукту от компании, которая игнорирует закон о приватности.Читать комментарий ↗
- EX.2Отмечает, что политика Anthropic о участии человека и передаче данных опасна для сторон семейных споров, чьи файлы могут оказаться у противоположной стороны.Читать комментарий ↗
- EX.3Замечает, что модель закрыта и размещена в Китае, поэтому приватные юридические данные пользователей из США и ЕС обрабатываются юрисдикцией, которая считается враждебной, без возможности экстрадиции.Читать комментарий ↗
За последний год Anthropic официально закрепила политику, по которой может передавать пользовательские файлы третьим лицам, когда затронуты юридические права. Скандал со снимками рабочих пространств у Z.ai и выпуск закрытой китайской модели превратили суверенитет данных из теоретической проблемы в реальный критерий покупки.
Аргументы против
Суверенитет данных стал жестким критерием отказа от Harvey, Anthropic и Z.ai в привилегированных делах. Открытая on-prem юридическая модель с пакетами юрисдикций — действительно свободная позиция; риск в исполнении, но ее не убивает действующий игрок.
Пакеты адаптеров под конкретные юрисдикции и корпуса для проверки цитат растут вместе с использованием. Сертификация доверия и аудита (SOC2, одобрения адвокатских палат) медленно копируется.
Harvey и CoCounsel — закрытый SaaS на базе американских фундаментальных лабораторий, чьи правила использования прямо допускают раскрытие по усмотрению и требуют участия человека. Потребительские лаборатории (Anthropic, OpenAI) и китайские (Z.ai) исключены для чувствительных дел. Ни один вендор не предлагает открытую юридическую модель с on-prem развертыванием, адаптерами юрисдикций и понятной историей происхождения данных для аудита, ориентированной на фирмы.
Построить за 3 шага
- 1Дообучить открытую базовую модель (Qwen или Llama) с юридическими адаптерами для двух юрисдикций и выпустить on-prem развертывание в Docker.
- 2Построить слой проверки цитат, который сверяет каждое упомянутое дело и норму с официальными источниками и блокирует непроверяемый вывод.
- 3Провести платные пилоты с 3 средними фирмами на их стандартных сценариях работы с договорами и меморандумами, измеряя сэкономленное время проверки юристами.
Переведено с английского. Читать оригинал