「能不能拿我们所这些年的卷宗,去训一个懂本所打法的大模型?」——这是律所知识管理总监问得最多的一句话,背后的期待很实在:让 AI 学会本所的写法、口吻和办案套路。但「拿卷宗去训」这件事,一旦细问就发现大多数人把微调、RAG、继续预训练混成了一团,用错了工具,既烧钱又看不到效果。本文把这三件事拆开:律所到底该用哪个、本所卷宗微调要怎么准备数据、用什么方式训、效果怎么实测而不是凭感觉,以及一个反复被忽略的前提——微调必须建在一层扎实的裁判文书私有库底座之上,否则就是空中楼阁。
先分清:微调、RAG、继续预训练不是一回事
律所想要的效果——「答得准 + 引得对 + 写得像本所」——其实由三种不同技术各自负责一块,搞混了就会拿错药方。
| 手段 | 解决什么问题 | 适合律所的场景 |
|---|---|---|
| RAG(检索增强) | 让模型答得准、引得对、可溯源——实时召回真实文书作依据 | 查类案、引法条、基于本所卷宗答事实问题(优先做) |
| 微调(Fine-tuning) | 改变输出的风格、格式、表达习惯——让它「写得像本所」 | 统一文书格式、贴合本所写作口吻、固化某类任务的输出范式 |
| 继续预训练 | 给基座补大量领域语料,改造底层语言能力 | 极少数有海量自有语料、要深度改造模型的大所,门槛最高 |
关键认知:律所 80% 的痛点是 RAG 问题不是微调问题。「模型不知道这个案子、引错了法条、编了个不存在的案号」——这些靠把检索底座做好就能解决一大半,跟微调没关系。微调解决的是剩下那 20%:输出风格不像本所、文书格式不统一、同一类任务每次写法都飘。顺序必须是先 RAG、再微调;反过来先拿卷宗微调、却没有检索底座,模型照样张口编,钱花了问题没解决。
一句话判断该用哪个:如果你的不满是「答得不对、引得不准」,那是 RAG 要补;如果是「答得对但写得不像我们所的东西」,那才轮到微调。把这两类抱怨分清楚,能省掉一大半走弯路的预算。
为什么微调离不开私有库这层底座
很多团队把「微调本所模型」当成一个独立项目去立项,这是认知误区。微调出来的模型,推理时仍然要靠检索去拿真实事实——它学到的是怎么写,不是具体某个案子的事实。如果底下没有一层能召回真实判决与本所卷宗的检索系统,微调得再好的模型,面对「帮我找近三年北京类似判例」这种问题照样无能为力,甚至会自信地编造。
所以正确的架构是两层叠加:底层是全量裁判文书 + 法规构成的公共知识底座(解决「全国怎么判」),上面叠本所历史卷宗(解决「本所怎么打」),两层都接入混合检索;微调只是在这套检索底座之上,再给模型套一层「按本所风格输出」的适配。脱离底座谈微调,等于先盖二楼再想地基。底座怎么建,见 1.5 亿裁判文书私有库的本地化部署架构。
数据准备:微调项目 70% 的工作在这里
微调的效果上限,几乎完全由数据质量决定。「我们卷宗多」不等于「能微调」——卷宗是原始素材,微调要的是从里面加工出来的指令样本对。这一步占整个项目 70% 以上的工作量,也是最容易被低估的地方。
把卷宗变成「输入-输出」样本
指令微调的数据长这样:输入是某类任务的提示,输出是本所律师当年实际产出的、质量过关的成稿。例如——
- 输入:「根据以下劳动争议案情,起草答辩状的核心抗辩要点。案情:……」
- 输出:本所在类似案件中实际写出的、最终被采纳的抗辩要点段落。
把卷宗里「任务 → 优秀产出」的对子系统地抽出来,就是微调数据的来源。每一条样本,都应该代表你希望模型学会的那种输出;混进去质量平平甚至打输了的卷宗,模型就会学歪。
四道必过的工序
| 工序 | 做什么 | 不做的后果 |
|---|---|---|
| 脱敏 | 抹去当事人姓名、身份证、联系方式、商业秘密等 PII;在内网完成 | 违反保密义务,模型可能在别的案子里吐出敏感信息 |
| 抽取 | 从长卷宗中切出「任务-成稿」对,而非整篇喂入 | 样本噪声大,模型学不到清晰的输入输出映射 |
| 把关 | 资深律师人工筛掉低质量、有争议、最终败诉的产出 | 把坏样本当范本学,越训越差 |
| 配比 | 多类任务按需要的能力分布配比例,掺入通用样本防遗忘 | 过拟合某一类任务,通用能力退化 |
关于数量:做好一类任务,通常需要数百到数千条清洗、脱敏、人工把过关的样本。少而精远胜多而脏——几千条干净样本的效果,比几万条带噪声的强得多。不要被「我们有几十万份卷宗」的体量迷惑,能整理出多少高质量样本才是真实弹药量。
怎么训:LoRA 起步,别一上来全参数
选定数据后,微调方式上律所绝大多数场景的答案是 LoRA / QLoRA 这类参数高效微调(PEFT),而不是全参数训练。
| 方式 | 特点 | 适配律所? |
|---|---|---|
| 全参数微调 | 更新模型全部权重,显存算力门槛高,易过拟合小数据、易训坏通用能力(灾难性遗忘) | 多数律所不需要,成本与风险都高 |
| LoRA / QLoRA | 只训一小部分增量参数,单张/少量专业级 GPU 即可,训练快、可回滚 | ✅ 首选,性价比最高 |
| 多适配器(adapter) | 不同业务线挂不同 LoRA 适配器,互不干扰,按需加载 | ✅ 适合诉讼/非诉/某专业领域分别训 |
LoRA 的好处对律所特别契合:一是成本低,算力开销是全参数的零头,真正的大头反而是前面的数据准备和后面的评测;二是可回滚、可并存,劳动争议、知识产权、公司业务可以各训一个适配器,哪个不好用就换掉,不动基座;三是不易训坏,基座的通用能力基本保留,降低「越训越笨」的风险。除非你有海量高质量领域数据且要深度改造模型,否则从 LoRA 起步就是最优解。算力规划见 律所内网大模型部署:GPU 选型实战。
效果实测:先建评测集,再开训
这是整篇文章最该被记住的一条:没有评测集的微调,等于闭着眼睛花钱。「感觉变好了」不是效果,固定题目上分数涨了才是。正确的实测流程是:
- 开训前先冻一套评测集:覆盖目标任务、100-300 道有标准答案或参考成稿的题,定下来就不再改。
- 跑基线:微调前用原始基座模型把这套题做一遍,记录分数,这是对照组。
- 微调后同题重测:用一模一样的题再跑一遍,直接对比前后。
- 叠加律师盲评:让真实律师在不知道哪个是微调版的情况下打分,排除自我说服。
评测维度至少要覆盖这四项:
| 维度 | 测什么 |
|---|---|
| 准确性 | 法条、案号、当事人、引用有没有编造或张冠李戴 |
| 格式合规 | 输出是否符合本所文书规范与结构要求 |
| 有用性 | 律师拿到后的改动量大不大(改得越少越有用) |
| 安全性 | 有没有泄露其他案件信息、有没有越权内容 |
盯住「通用能力有没有退化」。微调最隐蔽的坑是:目标任务分数涨了,但模型在其他通用问题上变笨了(灾难性遗忘)。所以评测集里要留一组通用能力题做「体检」。只有目标任务涨分、通用能力不退,这次微调才算真有效果;只涨一头、塌另一头,是把噪声当了信号。
一条务实的落地路线
把上面几步串起来,给律所一条不踩坑的推进顺序:
- 先把 RAG 底座做好:全量裁判文书 + 法规 + 本所卷宗接入混合检索,先解决「答得准、引得对、能溯源」。多数痛点到这一步已消解大半。
- 识别真正需要微调的任务:盘点「答得对但写得不像本所」的具体场景(某类文书起草、某类审查),通常就两三类。
- 从一类任务做样本:脱敏、抽取、资深律师把关,攒几百到几千条干净样本。
- LoRA 训一版 + 评测集验收:基线对照 + 律师盲评,数据说话。
- 过关再扩,不过关就回滚:有效就给下一类任务做适配器,无效就停,别硬上。
全程在律所自己机房内闭环——卷宗脱敏、样本加工、训练、推理都在内网,卷宗数据、训练过程、模型权重三者都不出域。任何要求把你的卷宗传到它云上「帮你微调」的方案,直接否决:这等于把客户机密交给第三方,既违反执业保密义务,也踩《数据安全法》《个人信息保护法》的红线(相关合规边界见 私有化如何满足客户保密义务)。
常见问题
Q:律所要让大模型用上本所卷宗,该微调还是上 RAG?
A:先 RAG 再微调。RAG 管「答得准、引得对、能溯源」,是律所 80% 痛点的解药;微调管「写得像本所」,解决剩下 20% 的风格格式问题。先拿卷宗微调却没检索底座,模型照样编案号编法条。
Q:用本所卷宗微调,大概需要多少数据?
A:吃的是「能整理出多少高质量输入-输出样本对」,不是卷宗总量。做好一类任务通常要数百到数千条清洗、脱敏、人工把过关的样本;少而精远胜多而脏。数据准备占整个项目 70% 以上工作量。
Q:要不要全参数微调?
A:多数律所场景不用,LoRA/QLoRA 就够且更划算——单张或少量 GPU 即可、训练快、可回滚、能给不同业务线挂不同适配器,还不易训坏通用能力。除非有海量高质量领域数据要深度改造,否则从 LoRA 起步性价比最高。
先把底座搭对,再谈微调
文书查提供全量裁判文书 + 法规的私有化数据底座,支持与本所卷宗双层叠加、混合检索、本地大模型 RAG 与微调对接,全流程数据不出域。告诉我们你的业务线与机房条件,我们出一版「先 RAG 后微调」的落地路线并安排 demo。演示阶段不收费。
📞 联系商务 Jack · 131 6872 7779或邮件 chenjiaxin@wenshucha.com · 查看 私有化方案详情
相关阅读:1.5 亿裁判文书私有库的本地化部署架构 · 内网大模型 GPU 选型实战 · 律所 AI 私有化部署完全指南 · 私有化如何满足客户保密义务 · 裁判文书 API / MCP 定价