简介这份资源面向自然语言处理初学者与司法信息化方向的开发者提供一套用Python与机器学习完成法律文本分类的完整项目。压缩包共34个文件约28.32MB包含5个py脚本、15个pkl模型文件、4个txt语料与停用词、2个json数据集及若干xml配置覆盖从数据预处理、特征提取到模型训练与预测的全流程。项目以刑事案件判决书为语料借助贝叶斯、SVM、KNN、逻辑回归、随机森林等多种算法实现罪名分类与案情判决预测代码中附有注释使用时去掉注释即可运行。包内已提供训练好的模型、处理后的数据集和停用词表可直接复现实验或替换自有语料继续训练。目前已有385人学习适合希望快速上手文本分类实战、理解司法领域语料挖掘流程的读者参考。1. 法律文本分类为什么“朴素”的贝叶斯反而最能打法律文本分类这件事第一反应往往是上大模型、上深度学习。但真正在合同、判决书、法条这类语料上跑过一轮的人会发现一个反直觉的结论在标注样本只有几百到几千条、类别边界又高度依赖特定术语的场景里朴素贝叶斯经常把复杂模型按在地上摩擦。原因不玄学——法律语言本身就是高度模板化的一份买卖合同和一份劳动合同用词分布差异极大“甲方”“乙方”“违约金”“竞业限制”这些词几乎就是天然的特征。贝叶斯假设特征独立这个假设在自然语言里明显不成立可它偏偏在这种强信号、弱语序依赖的文本上翻不了车。搞懂这套机制比盲目堆模型更能让你在真实项目里少踩坑。2. 从词袋到后验概率贝叶斯分类到底在算什么2.1 法律文本为什么先被拆成“词袋”任何文本分类的第一步都是把非结构化的字符串变成模型能吃的向量。法律文本尤其特殊它不像社交媒体那样有大量表情、缩写、错别字反而充满固定搭配和长句嵌套。常见的实现思路是先做分词再统计词频把每篇文档表示成一个稀疏向量——向量的每一维对应词表里的一个词值是该词在这篇文档里的出现次数或 TF-IDF 权重。这里有个关键取舍一旦转成词袋词的顺序就丢了。“原告起诉被告”和“被告起诉原告”在词袋里完全一样。对情感分析这是灾难但对法律文本分类往往可以接受因为类别判断更多依赖“出现了哪些法律术语”而不是“这些术语的排列顺序”。这就是为什么朴素贝叶斯在这个领域能 work 的第一层原因——它和词袋模型是天然匹配的。# 法律文本向量化的核心逻辑示意 from sklearn.feature_extraction.text import TfidfVectorizer # 法律语料中单字和双字词往往都有意义ngram_range 取 (1,2) vectorizer TfidfVectorizer( ngram_range(1, 2), # 同时捕捉“合同”和“劳动合同” max_features20000, # 控制词表规模防止稀疏爆炸 min_df2, # 只出现一次的词多半是噪声 sublinear_tfTrue # 对高频词做对数压制 ) X vectorizer.fit_transform(corpus)这段代码里ngram_range(1,2)是法律场景的血泪经验很多法律概念是双字词甚至三字词“不可抗力”“善意取得”拆成单字后语义就散了。min_df2过滤掉只出现一次的词法律文本里这类词通常是案号、人名等噪声。sublinear_tf用 1log(tf) 替代原始词频避免某个词反复出现就主导整个向量。2.2 朴素贝叶斯的“朴素”到底朴素在哪贝叶斯分类的目标是求后验概率 P(类别|文档)。根据贝叶斯定理它正比于 P(文档|类别) × P(类别)。难点在 P(文档|类别)——文档由多个词组成要算所有词同时出现的联合概率参数量是词表规模的指数级根本估不出来。朴素贝叶斯的做法是强行假设在给定类别的条件下各个词相互独立。于是联合概率拆成了每个词条件概率的乘积。这个假设在现实中几乎必然错误——“劳动”和“合同”明显相关不可能独立。但分类任务要的不是精确的概率值而是哪个类别的概率最大。只要排序对了概率估得偏一点无所谓。这就是它“朴素却有效”的底层逻辑。# 多项式朴素贝叶斯的核心计算简化示意 import numpy as np def predict_naive_bayes(doc_vector, class_log_prior, feature_log_prob): doc_vector: 当前文档的词频向量 class_log_prior: 每个类别的先验对数概率 feature_log_prob: 每个类别下每个词的条件对数概率 scores [] for c in range(len(class_log_prior)): # 对数域相加避免连乘下溢 score class_log_prior[c] score np.sum(doc_vector * feature_log_prob[c]) scores.append(score) return np.argmax(scores)注意这里全程在对数域运算。如果直接算概率连乘几百个词乘下来结果会小到浮点数下溢变成 0。取对数后乘法变加法既稳定又快。feature_log_prob[c]就是 P(词|类别c) 的对数值训练阶段统计每个类别下每个词的出现次数除以该类别总词数再做拉普拉斯平滑。2.3 拉普拉斯平滑为什么必须给每个词留一条命训练时有个致命问题如果某个词在某个类别的训练集里从没出现过它的条件概率就是 0。而概率连乘里只要有一个 0整个乘积就是 0这个类别直接被判死刑。法律文本里这种情况太常见了——训练集里的“仲裁条款”没在“婚姻纠纷”类别出现过测试时一篇婚姻文书恰好提到“仲裁”模型就可能完全误判。拉普拉斯平滑的做法是给每个词的出现次数加一个常数 α通常取 1同时分母加上 α 乘以词表大小。这样任何词的条件概率都不会是 0只是被压得很小。α 越大平滑越强模型越保守α 越小越信任训练数据。法律文本因为术语分布长尾严重α 取 0.1 到 1 之间通常比较稳。提示如果发现模型对某个类别几乎不预测先检查是不是平滑系数太小导致长尾词概率被压成 0再检查训练集里该类别样本是否过少。3. 特征工程法律文本分类真正的胜负手3.1 停用词表为什么不能直接套用通用版通用停用词表会把“的”“了”“是”这类词删掉这在新闻分类里没问题。但法律文本里“的”可能出现在“善意取得的”这种关键结构中“应当”“可以”“不得”这些词更是直接决定条款性质。直接套用通用停用词表等于把最有判别力的信号扔了。常见的做法是自建停用词表先跑一遍词频统计把在所有类别里分布都均匀的高频词挑出来人工审核。比如“第”“条”“款”在各类法律文书里都高频删掉合理但“应当”在义务性条款里高频、在权利性条款里低频就必须保留。这个步骤没有捷径只能靠对业务的理解。3.2 TF-IDF 和词频到底怎么选词频TF简单直接但高频词会主导向量。TF-IDF 用逆文档频率压制那些在几乎所有文档里都出现的词突出真正有区分度的词。法律文本分类里如果类别之间用词差异极大比如合同 vs 判决书TF 就够用如果类别之间共享大量术语比如不同种类的合同TF-IDF 通常更好。# 对比两种特征表示下的分类效果示意 from sklearn.naive_bayes import MultinomialNB from sklearn.feature_extraction.text import CountVectorizer, TfidfVectorizer from sklearn.pipeline import Pipeline # 方案一纯词频 pipe_tf Pipeline([ (vec, CountVectorizer(ngram_range(1,2), min_df2)), (clf, MultinomialNB(alpha0.5)) ]) # 方案二TF-IDF pipe_tfidf Pipeline([ (vec, TfidfVectorizer(ngram_range(1,2), min_df2, sublinear_tfTrue)), (clf, MultinomialNB(alpha0.5)) ])实际跑下来如果类别间区分度高两者差距可能在 1-2 个百分点如果类别间共享术语多TF-IDF 能拉开 5 个点以上。alpha0.5是平滑系数法律文本建议从 0.1 开始网格搜索。3.3 类别不平衡法律场景绕不开的坎真实法律语料里类别分布几乎不可能均衡。合同审查里“买卖合同”可能占 70%“融资租赁合同”只有 3%。朴素贝叶斯默认用先验概率多数类会天然占优。解决办法有两种一是调整先验手动设置class_prior让少数类获得更高权重二是在训练前对多数类下采样或者对少数类过采样。# 手动设置类别先验缓解不平衡 import numpy as np # 假设三个类别的真实比例是 0.7 / 0.2 / 0.1 # 手动拉平到接近均匀让少数类不被压制 clf MultinomialNB(alpha0.5, class_prior[0.4, 0.3, 0.3])注意class_prior设成均匀分布不一定最好它相当于告诉模型“我不信任训练集里的类别比例”。如果训练集本身有偏这样做能提升少数类召回但会牺牲多数类精度。具体怎么设要看业务更怕漏判还是更怕误判。4. 避坑与排查法律文本分类里最容易翻车的几件事4.1 分词粒度选错模型直接学偏现象模型在测试集上准确率不低但一上真实数据就乱判尤其对包含长术语的文档。原因分词器把“不可抗力”拆成了“不可”“抗力”而“不可”在否定性条款里高频“抗力”在技术性条款里高频拆开后模型学到的信号完全错位。解决法律领域建议用领域词典辅助分词把“不可抗力”“善意取得”“表见代理”这类固定术语强制合并。没有领域词典时至少把 ngram 范围开到 (1,3)让模型自己捕捉三字组合。4.2 训练集和测试集来自不同分布现象交叉验证分数很高上线后效果断崖式下跌。原因训练集可能是某一种类型的合同测试集混入了判决书、律师函等完全不同来源的文本。词表分布差异巨大模型见过的词在测试集里大量缺失。解决划分数据集时按来源分层采样确保每个类别下不同来源的文本都按比例进入训练和测试。如果做不到至少要在测试集上单独评估每个来源的子集表现。4.3 平滑系数没调长尾类别被吃掉现象少数类别的召回率极低几乎全被预测成多数类。原因alpha默认值是 1.0对长尾词压制过强少数类里那些低频但关键的术语概率被压到接近 0导致整个类别得分上不去。解决把alpha降到 0.1 甚至 0.01 试一轮观察少数类召回变化。同时检查少数类训练样本是否太少如果少于 50 条考虑先补充数据再调参。4.4 把概率输出当置信度直接用现象模型输出“类别A概率 0.51类别B概率 0.49”业务方以为模型很犹豫实际上模型可能非常确定。原因朴素贝叶斯的概率估计因为独立性假设天然是偏的。它擅长排序不擅长给出校准过的概率值。解决如果业务需要置信度用 Platt Scaling 或 Isotonic Regression 对输出概率做后校准。或者干脆不看概率值只看类别排序再设一个基于业务经验的阈值。4.5 忽略文本长度差异现象长文档几乎全被判成某一类短文档则随机乱跳。原因词袋模型下长文档的词频向量模长更大在朴素贝叶斯的对数求和里天然占优。短文档因为词少得分普遍偏低容易被多数类的先验拉走。解决对词频向量做 L2 归一化或者在预测时对得分按文档长度做平均。sklearn 的TfidfVectorizer默认做了 L2 归一化用纯CountVectorizer时要手动加norml2。5. 设计取舍为什么不用深度学习以及什么时候该换朴素贝叶斯在法律文本分类上的优势本质是三个取舍的结果。第一它用特征独立假设换来了极低的参数量和极高的训练速度。法律文本标注成本高样本量通常不大深度学习的百万级参数在这种数据量下根本喂不饱。贝叶斯只需要统计词频几千条数据就能跑出可用的模型。第二它用词袋表示换来了对语序的不敏感。法律文本的类别信号大量集中在术语本身而不是术语的排列方式。这个取舍在合同分类、法条归类上几乎不损失精度但在需要理解长距离依赖的任务上比如判断条款之间的逻辑关系就会失效。第三它用概率排序换来了可解释性。每个词的feature_log_prob直接告诉你它对某个类别的贡献有多大出问题时能逐词排查。深度模型的注意力权重虽然也能看但解释链条长得多。那什么时候该换当你的标注数据超过几万条、类别边界依赖上下文而非单个术语、或者需要处理条款之间的推理关系时朴素贝叶斯的瓶颈就出现了。这时候可以考虑用预训练语言模型做微调但即便如此贝叶斯仍然是一个极好的基线——它跑得快、解释强能帮你快速定位数据里的问题。我一般会先用贝叶斯跑一轮把特征和类别分布摸清楚再决定要不要上更重的模型。从那以后我每次做文本分类都强制先跑一遍朴素贝叶斯当基线把混淆矩阵和特征权重打印出来看一遍再决定下一步往哪走。这个习惯帮我省下了大量盲目调模型的时间。希望帮到你。本文还有配套的精品资源点击获取