Ideen / Montag, 12. Oktober 2026

✓ ÜberlebtNr. 3 von 3VentureKI-Infrastruktur

Selbst gehostetes Rechts-LLM für vertrauliche Mandate

Ein On-Prem-Legal-LLM mit offenen Gewichten, jurisdiktionsspezifischen Adaptern und Zitatprüfung für Kanzleien, die vertrauliche Akten nicht an Clouds in den USA oder China senden dürfen.

I want to build a venture-scale product. Help me plan and start the MVP.

Product: Self-hosted legal LLM for privileged matters
What it is: On-prem, open-weight legal LLM with jurisdiction adapters and citation verification for firms that can't send privileged files to US or Chinese clouds.
Who pays: Managing partners and GCs at 50–500 lawyer firms and regulated in-house teams handling sensitive matters; $2k–10k/mo per firm from the legal-tech/security budget
Closest alternatives: Harvey, CoCounsel (Thomson Reuters), Spellbook, self-hosted Llama/Qwen via vLLM
The gap: Harvey/CoCounsel are closed SaaS on US foundation labs whose usage policies explicitly allow judgment-based disclosure and require human-in-the-loop; consumer labs (Anthropic, OpenAI) and Chinese labs (Z.ai) are both disqualified for sensitive matters. No vendor ships an open-weight legal model with on-prem deployment, jurisdiction adapters and a clean data-provenance audit story aimed at firms.
Why now: Within the last year Anthropic formalized a policy allowing it to share user files with third parties when legal rights are affected, and Z.ai's workspace-snapshotting scandal plus the closed Chinese-model release made data sovereignty a live buying criterion rather than a theoretical concern.
Moat to build toward: Jurisdiction-specific adapter packs and citation-verification corpora compound with usage; trust/audit certification (SOC2, bar-association endorsements) is slow to copy.
Diskussion öffnen ↗

Ein fertiges Briefing für Claude Code, Cursor oder jeden anderen Coding-Agenten (auf Englisch).

6.1von 10
7Schmerz6Zahlen8Timing6Lücke5Graben4Bauen

Was dafür spricht

Wer zahltManaging Partner und General Counsels von Kanzleien mit 50 bis 500 Anwälten sowie regulierte Rechtsabteilungen, die sensible Mandate bearbeiten. 2.000 bis 10.000 US-Dollar pro Monat und Kanzlei, finanziert aus dem Budget für Legal Tech und Sicherheit.
Warum jetzt

Im letzten Jahr hat Anthropic eine Richtlinie formalisiert, nach der Nutzerdateien an Dritte weitergegeben werden dürfen, wenn Rechte aus dem Recht betroffen sind. Der Z.ai-Skandal um das Snapshotting ganzer Workspaces und die Veröffentlichung eines geschlossenen chinesischen Modells haben Datensouveränität zu einem konkreten Kaufkriterium gemacht statt zu einem theoretischen Anliegen.

Was dagegen spricht

✕ Woran es scheitern würdeHarvey oder Thomson Reuters bringen eine Private-Cloud- oder VPC-Variante auf den Markt und sichern sich die Vertriebswege in Kanzleien, bevor ein Neueinsteiger Vertrauen aufbauen kann.
Der stärkste Einwand des Red Teams

Datensouveränität ist für Harvey, Anthropic und Z.ai bei vertraulichen Mandaten zum harten Ausschlusskriterium geworden. Ein On-Prem-Legal-Modell mit offenen Gewichten und Jurisdiktionspaketen ist deshalb eine echte offene Position. Die Umsetzung ist riskant, aber kein Incumbent hat sie bereits besetzt.

Burggraben 5/10

Jurisdiktionsspezifische Adapterpakete und Korpora zur Zitatprüfung wachsen mit der Nutzung. Vertrauens- und Auditzertifizierungen wie SOC 2 oder Empfehlungen von Anwaltskammern sind langsam zu kopieren.

Was es schon gibt
HarveyCoCounsel (Thomson Reuters)Spellbookself-hosted Llama/Qwen via vLLM
Die Lücke

Harvey und CoCounsel sind geschlossene SaaS-Produkte auf Basis US-amerikanischer Foundation-Labs, deren Nutzungsbedingungen eine urteilsbasierte Offenlegung ausdrücklich erlauben und Human-in-the-loop verlangen. Verbraucherorientierte Labs wie Anthropic und OpenAI sowie chinesische Labs wie Z.ai scheiden für sensible Mandate aus. Kein Anbieter liefert ein Legal-Modell mit offenen Gewichten, On-Prem-Betrieb, jurisdiktionsspezifischen Adaptern und einer sauberen Herkunftsprüfung der Daten, das gezielt auf Kanzleien zugeschnitten ist.

In 3 Schritten bauen

  1. 1Ein Basismodell mit offenen Gewichten (Qwen oder Llama) mit Legal-Adaptern für zwei Jurisdiktionen feinabstimmen und ein On-Prem-Docker-Deployment ausliefern
  2. 2Eine Schicht zur Zitatprüfung bauen, die jedes zitierte Urteil und jede Norm gegen offizielle Quellen abgleicht und nicht verifizierbare Ausgaben blockiert
  3. 3Bezahlte Pilotprojekte mit 3 mittelgroßen Kanzleien auf deren üblichen Vertrags- und Gutachten-Workflows durchführen und die eingesparte Prüfzeit der Anwälte messen
Ursprüngliche Diskussion“GLM-Legal” ↗600 Punkte, 333 KommentareAus den KommentarenVerlinkter Artikel

Aus dem Englischen übersetzt. Original lesen

Mehr aus dieser Ausgabe