简介这份资源是基于BERT模型的中文文本情感二分类完整项目面向计算机相关专业正在做毕设、课程设计或期末大作业的学生以及需要NLP项目实战练习的学习者。项目经导师指导并获评审98分可帮助读者快速掌握中文情感分析从数据预处理、模型微调到结果预测的全流程。压缩包共40个文件约22.84MB包含15个Python源码文件、5个CSV数据集、4个XML配置、3个TXT与3个Markdown说明文档、2个Jupyter Notebook以及BERT预训练模型权重、词表、配置文件和运行脚本覆盖训练、测试、特征提取与分类预测等模块。目前已有296人学习下载。读者可获得一套可直接运行的二分类方案包括微博、疫情等多场景中文语料、模型训练与评估脚本、项目说明文档及依赖清单便于对照复现实验、理解BERT在中文情感任务中的落地细节并在此基础上完成二次开发或论文撰写。1. 从一份 BERT 中文情感二分类源码说起它到底能解决什么问题电商评论、外卖评价、客服工单、弹幕留言这些场景里每天都会堆出成千上万条中文短文本运营同学最想知道的其实就一件事——这条话是夸还是骂。基于 BERT 模型的中文文本情感二分类做的就是把这堆文本自动切成「正面 / 负面」两堆。它不预测星级也不做多标签只输出一个二选一的判断所以落地门槛比想象中低。这份「python 源码 项目说明」的组合价值在于把数据读取、分词、模型加载、训练、评估、推理串成了一条能跑通的链路而不是只丢一个模型文件给你。适合两类人一类是刚学完 python 入门、想找一个真实 NLP 项目练手的同学另一类是手里已经有业务文本、想快速验证 BERT 微调效果的工程师。下面我按自己复现这类项目的顺序把选型、代码、参数和踩过的坑讲清楚。2. 中文情感二分类的技术选型为什么是 BERT 而不是词袋或 LSTM2.1 从 TF-IDF 到 BERT差的不只是准确率早期做中文情感分类常见做法是 jieba 分词 TF-IDF 逻辑回归。这套方案在长文本、情感词明显的语料上能到 85% 左右但遇到「这手机真不戳」「绝了客服态度」这种反讽、省略、网络用语就集体翻车。原因很直接词袋模型丢掉了词序和上下文「不」和「好」分开看都是中性词合起来才是负面。LSTM 补上了词序但它是单向串行读长距离依赖靠门控硬记训练慢且对预训练知识利用不足。BERT 用 Transformer 编码器 掩码语言模型预训练天生带上下文双向表示微调时只需要在 [CLS] 位上接一个二分类头。对中文来说谷歌的 bert-base-chinese 是按字切分的不需要分词器省掉了 jieba 词典维护的麻烦这也是它在中文短文本上被大量采用的原因。选型结论语料超过几千条、有 GPU 可用、追求 90% 以上准确率直接上 BERT 微调数据只有几百条且要求毫秒级响应先用 TF-IDF 打底更划算。2.2 项目目录与依赖环境怎么搭拿到源码包后先别急着跑 train。我一般先看目录结构确认数据、代码、模型权重是不是分开放的。典型结构长这样sentiment_bert/ ├── data/ │ ├── train.csv │ ├── dev.csv │ └── test.csv ├── bert_base_chinese/ # 预训练权重目录 ├── models/ # 微调后保存 ├── train.py ├── predict.py ├── dataset.py └── requirements.txt依赖安装是新手最容易卡住的地方。python 安装教程满天飞但真正影响这个项目的是 transformers 和 torch 的版本匹配。我一般用虚拟环境隔离python -m venv venv source venv/bin/activate # Windows 用 venv\Scripts\activate pip install torch transformers scikit-learn pandas numpy参数说明torch 装 CPU 版还是 CUDA 版取决于你有没有显卡pip install torch默认拉 CPU 版训练会慢十倍以上transformers 版本建议 4.x2.x 的 API 和现在源码里的AutoTokenizer写法对不上。装完用python -c import torch; print(torch.cuda.is_available())验证返回 True 才说明 GPU 可用。2.3 数据格式与标签约定源码里的 train.csv 一般是两列text和label。label 用 0/1 表示负面/正面也有项目用 0/1 表示负面/正面之外的顺序这个必须看项目说明搞反了模型准确率会稳定在 50% 左右属于典型的玄学翻车。import pandas as pd df pd.read_csv(data/train.csv) print(df[label].value_counts()) # 检查类别是否均衡 print(df[text].str.len().describe()) # 看文本长度分布逻辑说明先看标签分布如果正负比例超过 3:1训练时要加类别权重或做重采样再看长度BERT 默认最大长度 512中文按字算超过 512 的会被截断短文本项目一般设 128 就够。参数上max_len128能覆盖绝大多数评论显存占用比 512 低一大截。3. 用 transformers 跑通训练从 Dataset 封装到模型微调3.1 把 CSV 变成 BERT 能吃的张量BERT 不认字符串需要 tokenizer 把文本转成 input_ids、attention_mask、token_type_ids 三个张量。这一步封装成 Dataset 最稳妥import torch from torch.utils.data import Dataset from transformers import BertTokenizer class SentimentDataset(Dataset): def __init__(self, csv_path, tokenizer, max_len128): import pandas as pd self.df pd.read_csv(csv_path) self.tokenizer tokenizer self.max_len max_len def __len__(self): return len(self.df) def __getitem__(self, idx): text str(self.df.iloc[idx][text]) label int(self.df.iloc[idx][label]) encoding self.tokenizer( text, max_lengthself.max_len, paddingmax_length, truncationTrue, return_tensorspt ) return { input_ids: encoding[input_ids].squeeze(0), attention_mask: encoding[attention_mask].squeeze(0), token_type_ids: encoding[token_type_ids].squeeze(0), label: torch.tensor(label, dtypetorch.long) }逻辑说明paddingmax_length保证一个 batch 内长度一致省去动态 padding 的 collate 逻辑truncationTrue处理超长文本。参数上max_len设 128 时单条样本占显存很小batch_size 可以开到 32如果设 512batch_size 要降到 8 以下否则直接 OOM。token_type_ids 在单句分类里其实全 0但 bert-base-chinese 的 forward 接受它保留更省心。3.2 加载预训练模型并接分类头from transformers import BertForSequenceClassification, AdamW from torch.utils.data import DataLoader tokenizer BertTokenizer.from_pretrained(bert_base_chinese) model BertForSequenceClassification.from_pretrained( bert_base_chinese, num_labels2 ) device torch.device(cuda if torch.cuda.is_available() else cpu) model.to(device) train_dataset SentimentDataset(data/train.csv, tokenizer) train_loader DataLoader(train_dataset, batch_size32, shuffleTrue) optimizer AdamW(model.parameters(), lr2e-5)逻辑说明num_labels2决定分类头输出维度写错会直接报维度不匹配。学习率 2e-5 是 BERT 微调的经典值太大如 1e-3会让预训练权重被冲垮表现为 loss 震荡不下降太小如 1e-6则收敛极慢。AdamW 相比 Adam 加了权重衰减解耦是 transformers 官方推荐搭配。3.3 训练循环与验证指标from sklearn.metrics import accuracy_score, f1_score for epoch in range(3): model.train() total_loss 0 for batch in train_loader: input_ids batch[input_ids].to(device) attention_mask batch[attention_mask].to(device) token_type_ids batch[token_type_ids].to(device) labels batch[label].to(device) optimizer.zero_grad() outputs model( input_idsinput_ids, attention_maskattention_mask, token_type_idstoken_type_ids, labelslabels ) loss outputs.loss loss.backward() optimizer.step() total_loss loss.item() print(fepoch {epoch} loss {total_loss/len(train_loader):.4f})逻辑说明epoch 一般 2 到 4 就够BERT 微调很容易过拟合训练 loss 一直降但验证集不涨就是信号。评估时别只看 accuracy中文情感数据常有不均衡F1 更能反映真实效果。验证集推理要加model.eval()和torch.no_grad()否则 dropout 生效、显存白占。4. 推理部署与效果验证模型训完怎么用起来4.1 单条文本预测的最小脚本def predict(text, model, tokenizer, device): model.eval() encoding tokenizer( text, max_length128, paddingmax_length, truncationTrue, return_tensorspt ) with torch.no_grad(): outputs model( input_idsencoding[input_ids].to(device), attention_maskencoding[attention_mask].to(device), token_type_idsencoding[token_type_ids].to(device) ) prob torch.softmax(outputs.logits, dim1) pred torch.argmax(prob, dim1).item() return pred, prob[0][pred].item() print(predict(这家店服务态度特别好下次还来, model, tokenizer, device))逻辑说明softmax 把 logits 转成概率方便设阈值。如果业务对误判敏感可以不用 argmax而是设prob[0][1] 0.8才判正面其余走人工复核。参数上推理时 max_len 必须和训练时一致否则位置编码对不上结果会莫名其妙。4.2 批量推理与性能取舍线上服务一般不会一条条调而是攒批。batch_size 在推理时可以比训练大因为不需要存梯度。CPU 部署时一条 128 长度的文本大约几十毫秒GPU 上批量 64 条能压到几毫秒。如果 QPS 要求高又没 GPU可以考虑 ONNX 导出或蒸馏成小模型但那是另一个话题了。验证方法上我习惯留一份人工标注的测试集跑完看混淆矩阵重点看负面被误判成正面的比例——这类错误在舆情监控里代价最大。5. 避坑与排查复现这份源码时最容易翻车的 5 个点5.1 准确率卡在 50% 不动现象训练 loss 下降但验证准确率始终 0.5 左右。原因标签映射反了或者 label 列被 pandas 读成了字符串。解决打印df[label].unique()确认是 0/1 整数对照项目说明确认 0 代表哪一类。5.2 显存溢出 OOM现象跑到第二个 batch 就报 CUDA out of memory。原因max_len 设太大或 batch_size 太高。解决先把 max_len 降到 128、batch_size 降到 16再逐步往上加也可以用梯度累积模拟大 batch。5.3 中文乱码或 tokenizer 报错现象读 CSV 时出现UnicodeDecodeError。原因文件是 GBK 编码pandas 默认按 UTF-8 读。解决pd.read_csv(path, encodinggbk)或先转成 UTF-8。这个坑在 Windows 上尤其常见。5.4 模型保存后加载报维度错误现象from_pretrained加载自己保存的模型时提示 size mismatch。原因保存时用了model.save_pretrained但没保存 tokenizer或者 num_labels 和加载时不一致。解决保存时同时tokenizer.save_pretrained(save_dir)加载时显式传num_labels2。5.5 推理结果和训练时不一致现象同一条文本训练时判正面推理脚本判负面。原因推理时漏了model.eval()dropout 还在随机丢弃神经元。解决推理前必加model.eval()并用torch.no_grad()包住。6. 把 BERT 情感分类用到自己数据上的两个进阶技巧第一个技巧是领域自适应。bert-base-chinese 是在通用语料上预训练的如果你的文本是医疗、法律、金融这类垂直领域直接微调效果会打折。我一般会先用领域语料做几轮 MLM 继续预训练再拿标注数据微调分类头。这一步不需要标注把手里没标签的文本喂进去就行成本低但提升明显。第二个技巧是阈值调优。二分类默认 0.5 阈值但业务上正负样本代价往往不对称。比如客服工单里漏判一个负面可能意味着一次投诉升级那就把正面阈值提到 0.7宁可把模糊的判成负面走人工。具体做法是在验证集上扫一遍阈值画一条 precision-recall 曲线挑业务能接受的平衡点。import numpy as np from sklearn.metrics import precision_recall_curve # probs 是验证集正类概率labels 是真实标签 precision, recall, thresholds precision_recall_curve(labels, probs) f1 2 * precision * recall / (precision recall 1e-8) best_threshold thresholds[np.argmax(f1)] print(最佳阈值:, best_threshold)逻辑说明precision_recall_curve返回的 thresholds 长度比 precision 少 1取 argmax 时注意索引对齐。这个脚本跑完你会得到一个比 0.5 更贴合数据的阈值通常能再挤出 1 到 2 个点的 F1。我自己复现这类项目时最大的教训是别一上来就改模型结构。先把数据清洗、标签对齐、max_len 和学习率这四个基础项调对90% 的效果问题都能解决。BERT 微调本身不玄学玄学的是数据里那些你没注意到的脏样本。希望帮到你。本文还有配套的精品资源点击获取