简介完整LSTM文本情感分析系统源码面向高校学生和Python开发者可满足毕业设计、课程设计或期末大作业需求代码经本地编译验证评审分达98分难度适中内容已通过助教审定。资源包为ZIP格式共9个文件以Python源码、LSTM模型权重、词表字典、JSON数据、说明文档和结构示意图为主整体仅7.15MB。目前已有140人学习浏览工程内提供训练与预测主程序、命令行对话脚本、预训练模型、示例数据及详细说明文档可完整复现情感分类流程。项目结构清晰附带的模型结构图和系统运行示意图便于理解适合快速上手、二次训练或扩展成更完整的情感分析应用。1. 这套“PythonLSTM文本情感分析系统”到底在解决什么问题很多人的课程设计或简历项目里都有一版“情感分析”但绝大多数是用词袋加朴素贝叶斯跑出来的把评论切碎、数词频、算概率准确率看着有 85%可一到“虽然贵但值得”这种句子就露馅。原因很简单词袋模型把每个词当成独立的语序、否定关系、转折关系全丢了。而标题里的“PythonLSTM 文本情感分析系统”要解决的正是这个最容易被答辩老师追问的痛点如何让模型真的“读懂”一句话的时序结构而不是在背词表。这套系统的典型构成是一份完整工程从数据清洗、分词、词表构建到 LSTM 模型训练、评估、预测整条链路都有源码和配套资料。对新手来说它的价值不在于“跑通”那一下而在于你能顺着代码讲清楚每一步为什么这么做对想拿高分的人来说它给了你一个能继续加注意力机制、多分类、可视化界面的稳定底座。适合正在做 Python 方向课设、准备毕业设计或想把简历上的“情感分析”从入门版本升级成能讲深度的工程的人。2. 情感分析为什么选 LSTM从词袋模型到序列建模的门控逻辑2.1 词袋模型的本质缺陷丢了语序就分不清“差一点好”和“好一点差”做情感分析第一反应往往是“统计词有没有出现”。这没错像“难吃”“差评”“推荐”这类强情感词确实能直接决定标签。但评论里更常见的是带转折、否定和程度副词的表达比如“包装很好但鞋底太硬了”和“鞋底硬但包装很好”它们的情感倾向几乎是相反的。词袋处理下这两句话的词频完全一样模型分不出来。更典型的“翻车”句是“味道还不错就是不新鲜”和“不新鲜但味道还不错”。前者整体偏负后者在口语语境里其实偏中性或偏正。想要区分必须让模型看到词的排列顺序也就是“上下文”。LSTM 这类循环神经网络专门做这件事它按顺序读每个词并且把上一时刻的“记忆”带到当前判断里。于是“不新鲜”前面的“但”会让模型知道要加权后半句“不错”前面的“还”会缓解否定强度。2.2 LSTM 的门控结构如何记住关键上下文Long Short-Term Memory长短期记忆网络核心思想是给循环单元增加一个“细胞状态”。这个状态像一条传送带可以在多个时间步里保存信息由三个门控制遗忘门决定丢弃哪些旧信息输入门决定写入哪些新信息输出门决定当前时刻对外输出什么。靠这套机制LSTM 可以从“非常非常非常好吃”里记住强烈的程度也可以在“没有传说中那么好吃”里识别出否定不是直接落在“好吃”前面。理解到这一层已经够用因为做工程的人不需要手推梯度公式但要能解释清楚两个训练现象。第一为什么 LSTM 能缓解梯度消失因为细胞状态的加法路径让梯度可以跨时间步回传而不是像原始 RNN 那样每步乘一个小于 1 的矩阵。第二为什么句子太长时 LSTM 还是可能忘掉开头因为门控是“选择性记忆”不是绝对记忆所以后面还要做序列长度上限和注意力机制。2.3 选 Keras 还是 PyTorch从复现和“高分答辩”两个角度说标题没限定框架但常见方案集中在两个方向TensorFlow/Keras 和 PyTorch。如果你的诉求是“最快跑通一个 baseline”Keras 的搭建成本几乎为零几行代码就拼好一个 LSTM 模型。如果你的诉求是“答辩被问细节时能现场改代码”我会建议 PyTorch因为它把训练循环、梯度裁剪、模型保存都暴露在你面前讲起来更真实改造空间也更大。另一个考虑是源码的可读性。PyTorch 的动态计算图对处理文本序列特别友好调试时可以在每个 batch 里直接打印 tensor 形状。我一般推荐新手直接用 PyTorch但从环境安装到第一个模型跑起来需要多花半小时。下面是在 PyCharm 里配置 Python 环境和 PyTorch 的常见步骤。conda create -n sentiment python3.9 conda activate sentiment pip install torch pandas scikit-learn matplotlib pip install jieba参数说明python3.9是兼容性较高的版本太新的 Python 偶尔会遇到依赖库还没发布对应 wheel 的情况torch是模型训练的核心框架安装时若网速不理想可以用国内镜像源jieba只做中文分词用英文项目可以直接用nltk。装完以后你在 PyCharm 的设置里把解释器指向这个 conda 环境就行注意不要用全局环境混装否则后面很容易遇到版本冲突的怪问题。3. 数据准备是高分关键中文评论清洗、分词与序列化的完整流水线3.1 原始语料长什么样以酒店评论为例先做基础清洗做情感分析首先要有带标签的中文评论数据。常见的公开语料有酒店评论、电商评论、外卖评论格式基本都是两列一列是文本一列是标签。标签可以是二分类正向/负向也可以是五分类1 到 5 星。这套系统的核心步骤是先把原始数据读进来检查空值、重复值再做一些基础清洗。清洗不是越用力越好。很多新手上来就把所有标点删掉结果“好吃”和“好吃”变成重复样本还把感叹号携带的情感强度抹掉了。我一般是这样处理的去掉 HTML 标签和多余空格把英文统一转小写保留中文、字母和数字但正则表达式里不要误删“。”和“”因为它们在分词后会作为独立词保留对判断句子边界有帮助。import pandas as pd import re def clean_text(text: str) - str: if not isinstance(text, str): return text re.sub(r[^], , text) # 去 HTML 标签 text re.sub(r\s, , text) # 合并空白符 text text.lower() # 英文小写 text re.sub(r[^\u4e00-\u9fa5a-zA-Z0-9。!?,], , text) return text.strip() df pd.read_csv(hotel_comments.csv) print(df.shape, df[label].value_counts()) df[clean_text] df[comment].apply(clean_text) df df.drop_duplicates(subsetclean_text) df df.dropna(subset[clean_text, label])逻辑说明clean_text里的正则先去掉标签再把连续空格压成一个最后保留中文、英文字母数字和几个常见的中英文标点。drop_duplicates用的是清洗后的文本因为原始文本里可能只有大小写和空格差异本质上是同一句话。dropna则保证后面分词和序列化不会因为空值中断。参数说明清洗规则里保留感叹号和问号是因为 “太差了” 这种重复感叹号对情感强度有正向作用如果你做的是短文本舆情分析可以保留更多标点符号。如果数据集很大清洗完会肉眼可见变小这是正常的重复评论在训练里只会放大模型对高频句的偏好得不偿失。3.2 jieba 分词与停用词过滤自定义词表能解决“xxx”被切错的问题中文分词是绕不过去的一步。最常用的是 jieba它不需要训练直接加载词典就能切。基础用法是jieba.cut(text)但实际项目中我总会做两件额外的事一是加载自定义词表把品牌名、网络流行语、菜品名这些容易切错的词手动加进去二是用一个停用词表把“的”“了”“就”“都”这类无语义贡献的词过滤掉。过滤停用词要注意尺度。像“不”“没”“太”“虽然”“但是”这类词一旦被误删情感表达的转折和否定关系就破坏了。我之前见过一个项目为了降噪把“不”也加进停用词表结果“不好看”变成“好看”整个模型的预测方向反了。所以停用词表宁缺毋滥只删那些出现频率极高且完全不携带情感的词。import jieba STOP_WORDS set() with open(stopwords.txt, r, encodingutf-8) as f: for line in f: w line.strip() if w: STOP_WORDS.add(w) jieba.load_userdict(user_dict.txt) def tokenize(text: str) - list[str]: words jieba.lcut(text) return [w for w in words if w not in STOP_WORDS and w.strip()] df[tokens] df[clean_text].apply(tokenize) print(df[tokens].head())逻辑说明load_userdict会把你手动维护的词典合并进 jieba 的默认词典比如你写了“螺蛳粉 1 n”它就不会被切成“螺蛳”和“粉”。tokenize返回分词后的列表w not in STOP_WORDS过滤停用词w.strip()再把空串和纯空格过滤掉。参数说明停用词表文件每行一个词编码必须是 UTF-8Windows 下记事本默认编码不是 UTF-8 会导致读入乱码。词典文件格式是“词 词频 词性”词频可以给 1词性可以不填但空格分隔符不能少。3.3 构建词表与序列化定长填充的坑和截断策略分词以后模型还不能直接吃中文词得先把词转成索引再把一句话变成一个等长的整数序列。常见的做法是以训练集为基准构建词表按词频排序低频词归入UNK。然后设定一个最大长度max_len超过就截断不足就补 0这里的 0 通常是PAD的索引。max_len的选择是整个序列化环节里最“玄学”的参数。设太短长句信息被砍掉设太长训练慢且大部分样本都是填充符浪费计算。我一般会先做一次文本长度分布统计看 90% 的样本落在多少字以内再拿这个数附近的几个值去试。常见的中文评论在 50 到 100 字之间先设 64 或 80 是比较稳的起点。from collections import Counter all_words [] for tokens in df[tokens]: all_words.extend(tokens) word_freq Counter(all_words) vocab {PAD: 0, UNK: 1} for word, count in word_freq.most_common(20000): vocab[word] len(vocab) MAX_LEN 64 def encode(tokens): ids [vocab.get(w, vocab[UNK]) for w in tokens] if len(ids) MAX_LEN: ids [vocab[PAD]] * (MAX_LEN - len(ids)) else: ids ids[:MAX_LEN] return ids X [encode(t) for t in df[tokens]] y df[label].astype(int).values逻辑说明vocab从 0 和 1 开始编号0 给填充符1 给未知词。most_common(20000)限制词表大小超出词频排名的词都会被映射为UNK。encode先做索引映射再根据MAX_LEN截断或右侧填充得到定长序列。参数说明词表大小 20000 是经验值如果语料只有几万条这个数可以降到 8000如果语料很大可以提高到 50000。右侧填充是 LSTM 的标准做法因为模型从序列头部开始读尾部填充不影响语义。注意不要用左侧填充否则模型的最后时间步会大量落在PAD上影响状态输出。4. 用 PyTorch 复现一个可训练的情感分析 LSTM模型定义与训练循环4.1 嵌入层 LSTM 全连接模型结构的每一层为什么这么放一个标准的情感分析 LSTM 模型包含三层嵌入层把词的整数索引转成稠密向量LSTM 层在时间步上循环更新隐状态全连接加 softmax 把最后一个隐状态映射成标签概率。关键决策在于“取哪个状态输出”。常见做法是取最后一个时间步的隐状态outputs[:, -1, :]但这里有个坑如果序列后半段全是PAD最后一个隐状态可能没读到实际内容。所以很多实现里会改成“取最后一个非填充位置”的状态或者用双向 LSTM 后做全局池化。对入门项目我用一个更稳妥的方案取 LSTM 每个时间步的输出做平均池化再送入全连接。这样即使填充符干扰了个别时间步平均操作也能稀释它的影响。import torch.nn as nn class SentimentLSTM(nn.Module): def __init__(self, vocab_size, embed_dim, hidden_size, num_classes): super().__init__() self.embedding nn.Embedding(vocab_size, embed_dim, padding_idx0) self.lstm nn.LSTM(embed_dim, hidden_size, batch_firstTrue, bidirectionalTrue) self.dropout nn.Dropout(0.5) self.fc nn.Linear(hidden_size * 2, num_classes) def forward(self, x): emb self.embedding(x) # [batch, seq_len, embed_dim] outputs, (h_n, c_n) self.lstm(emb) # outputs: [batch, seq_len, 2*hidden] pooled outputs.mean(dim1) # 平均池化 out self.dropout(pooled) return self.fc(out)逻辑说明nn.Embedding的padding_idx0会让填充位在反向传播时梯度为零避免更新PAD的向量。LSTM 设置为bidirectionalTrue双向输出的维度是hidden_size * 2这样上下文信息更充分代价是参数量翻倍。outputs.mean(dim1)在所有时间步上取均值得到一个固定长度的向量。参数说明embed_dim常见值是 128 或 256太小表达力不足太大容易过拟合hidden_size常用 128双向后就是 256dropout放在 LSTM 之后只影响全连接输入不影响 LSTM 内部循环。对几万条样本的数据集hidden_size128已经能有不错效果。4.2 训练循环里真正影响效果的三个参数学习率、batch size、梯度裁剪模型定义完接下来是训练循环。训练里最容易被忽略却又最能影响结果的是三个参数学习率、batch size 和梯度裁剪。学习率太大loss 会在一个区间震太小训练半天还在原地。batch size 影响梯度估计的稳定性也直接决定显存占用。梯度裁剪是经验里最值得加的后悔药。LSTM 即使比 RNN 稳长句训练时梯度范数依然可能突然暴涨导致 loss 变成 NaN。用clip_grad_norm_把它限制在一个范围训练立刻稳一个档次。下面是完整的训练循环我习惯用一个函数封装一个 epoch方便后续做交叉验证。import torch from torch.utils.data import TensorDataset, DataLoader X_t torch.tensor(X, dtypetorch.long) y_t torch.tensor(y, dtypetorch.long) dataset TensorDataset(X_t, y_t) loader DataLoader(dataset, batch_size64, shuffleTrue) model SentimentLSTM(vocab_sizelen(vocab), embed_dim128, hidden_size128, num_classes2) optimizer torch.optim.Adam(model.parameters(), lr1e-3) scheduler torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, modemin, factor0.5, patience2) def train_one_epoch(model, loader, optimizer, criterion, clip2.0): model.train() total_loss, total_correct, total 0.0, 0, 0 for batch_ids, batch_labels in loader: optimizer.zero_grad() logits model(batch_ids) loss criterion(logits, batch_labels) loss.backward() torch.nn.utils.clip_grad_norm_(model.parameters(), max_normclip) optimizer.step() total_loss loss.item() * len(batch_ids) total_correct (logits.argmax(dim1) batch_labels).sum().item() total len(batch_ids) return total_loss / total, total_correct / total逻辑说明ReduceLROnPlateau会在验证集 loss 连续迭代不下降时自动把学习率减半比死板地每 N 轮衰减更靠谱。clip_grad_norm_的max_norm2.0是常见经验值意思是如果整个参数梯度范数大于 2就按比例缩放方向不变。DataLoader的batch_size64是一个在 CPU 和单卡 GPU 上都很舒服的数。参数说明学习率从1e-3起步适用于 Adam 和大部分中小规模文本任务。如果你的情感分类是五分类num_classes改成 5 即可。batch size 调大时梯度裁剪阈值可以适当放大但 2.0 到 5.0 之间基本够用。4.3 EarlyStopping 与模型保存别让训练变成纯等训练 LSTM 的另一个常见问题是不知道第几个 epoch 最好。很多人凭感觉训练 20 轮结果最佳模型可能在第七轮就已经出现了。为了不靠运气我会写一个简单的 EarlyStopping 类监控验证集 loss连续 N 轮不下降就停止训练并自动保存最佳模型权重。这里的核心是保存“最优状态”而不是最后一轮的权重。一个常见翻车点是训练结束后拿最后一个 epoch 的模型去测试忽略了前面某个 epoch 验证集效果更好。下面这个类不依赖第三方库直接拷过去就能用。class EarlyStopping: def __init__(self, patience3, delta0.001, pathbest_model.pt): self.patience patience self.delta delta self.path path self.best_loss float(inf) self.counter 0 def __call__(self, val_loss, model): if val_loss self.best_loss - self.delta: self.best_loss val_loss self.counter 0 torch.save(model.state_dict(), self.path) else: self.counter 1 if self.counter self.patience: return True return False for epoch in range(30): train_loss, train_acc train_one_epoch(...) val_loss, val_acc evaluate(...) scheduler.step(val_loss) early early_stopping(val_loss, model) if early: break逻辑说明delta用来避免 loss 只下降 0.0001 就触发保存浪费保存次数。只有验证 loss 真正比历史最佳值低超过delta时才更新最佳模型。结果是训练最终停留在一个相对稳定的点同时你手里的best_model.pt是验证集上表现最好的一次权重。参数说明patience3对大多数情感分析任务够用如果训练数据很少可以放宽到 5给模型更多“恢复”机会。注意这里保存的是state_dict不包含整个模型结构所以加载时必须先实例化模型再调用load_state_dict。5. 评估指标与避坑清单准确率的骗局和 5 个高频报错现场5.1 别只看准确率情感分析该用准确率、F1 还是混淆矩阵很多高分项目最后展示的只有准确率这其实是最容易被问倒的地方。如果数据集里 85% 是正向评论那模型什么都不学全部预测成正向准确率也有 85%。所以在模型评估环节必须把准确率、精确率、召回率、F1 和混淆矩阵放在一起看。对情感分析我一般更关心 F1因为它同时惩罚“漏报”和“误报”。在展示实验数据时混淆矩阵是最直观的一张图。你可以从矩阵里看到模型把多少负向样本错分成了正向这在舆情场景里比总体准确率重要得多。from sklearn.metrics import classification_report, confusion_matrix, accuracy_score, f1_score y_pred [] model.eval() with torch.no_grad(): for batch_ids, _ in loader: logits model(batch_ids) y_pred.extend(logits.argmax(dim1).tolist()) print(classification_report(y, y_pred, target_names[negative, positive])) print(F1:, f1_score(y, y_pred)) print(Confusion Matrix:) print(confusion_matrix(y, y_pred))逻辑说明classification_report一次给出精确率、召回率、F1 和样本数。f1_score默认算正类的 F1如果你的标签 1 代表正向那就直接用。混淆矩阵的行是真实标签列是预测标签对角线上的数字越大越好。参数说明target_names的顺序必须和整数标签 0、1 对应否则报告里标签名会错位。如果你的数据是五分类就换成五个类别名同时把f1_score改成averagemacro这样每个类别权重相等不被样本多的类别带偏。5.2 避坑清单5 条从训练到预测的高频翻车记录以下是我在做这类 LSTM 情感分析项目时反复遇到、也反复帮别人排查过的问题每一条都按“现象 → 原因 → 解决”来写。1. loss 一上来就不降甚至卡在一个值不动。现象是跑了两三个 epoch训练 loss 几乎不变准确率也停在 50% 左右。原因通常是学习率设得太大导致 loss 震荡不收敛或者标签本身就有大量噪声。解决方法是先把学习率调到1e-3再确认训练集标签没有上下反转如果还是不动检查词表里是不是大部分词都映射到了UNK说明测试集的词和训练集严重不一致。2. 验证集 loss 先降后升准确率也掉。现象是训练前几个 epoch 一切正常后面训练 loss 一直降验证集却越来越差。原因很直接过拟合。解决方法是把 dropout 从 0.3 提高到 0.5或者把hidden_size从 128 降到 64。如果数据量很少还可以用提前停止把patience设成 2给过拟合留更少的时间窗口。3. 预测结果全是同一个类别。现象是模型跑完测试集输出全部是 0 或全部是 1F1 直接为 0。原因有两个方向数据类别极不均衡负样本只占 10%模型学到的决策边界就是“全预测为正”另一种可能是梯度裁剪阈值设得太小比如max_norm0.1导致模型参数几乎没更新。解决方法是先查看df[label].value_counts()如果确实不平衡就用torch.utils.data.WeightedRandomSampler给少数类加权重。4. 训练时显存或内存爆掉。现象是跑几个 batch 之后进程被 kill或者 GPU 显存报错。原因最常见的是max_len太大、batch size 太大或者词表里装了太多低频词导致嵌入矩阵过大。解决方法是把max_len从 128 降到 64观察内存占用再逐步调整 batch size。如果还是不够用就加梯度累积每 4 个 batch 更新一次参数效果上近似于把 batch size 放大 4 倍但显存不变。5. 预测某个新句子时报 KeyError 或 tensor 维度对不上。现象是训练时一切正常单条预测时报KeyError: 0或RuntimeError: Expected 2D tensor。原因一般是预测流程里少做了序列化保持训练时你把句子分词、编码、填充成[1, MAX_LEN]但预测时只做了分词就丢给模型。解决方法是把清洗、分词、编码、填充封装成一个preprocess_single(text)函数保证训练和预测走同一套逻辑。6. 进阶玩法注意力机制与多分类情绪识别让项目从课程设计变成能讲的东西如果时间允许我强烈建议在这个 LSTM 系统上再加一个注意力层。原因很实际答辩或面试时你能拿出一个比“平均池化”更合理的解释。平均池化把每个时间步的权重当成一样可一句 60 字的话里往往只有两三个词决定了情感比如“太好了”的“太好”。注意力机制的作用就是让模型自己学会把更大的权重放到这些关键词上。实现一个最简的注意力层并不复杂做法是拿 LSTM 的每个时间步输出和一个可学习的向量做点积归一化成权重再对时间步输出做加权平均。替换掉原来的outputs.mean(dim1)其他代码不用改模型的表达能力却能上一个台阶。训练时也能观察到越是情感强烈的词注意力权重越高。另一个进阶方向是把二分类改成多分类。很多语料本身就带 1 到 5 星的标签你不需要换模型只要把num_classes改成 5评估指标换成macro-F1然后重新训练。这样项目从“正向/负向”变成“情感强度判断”题目可以从“文本情感分析系统”扩成“细粒度情感分析系统”适用面更广。最后一个实用技巧是模型导出。训练完的 PyTorch 模型在切换环境后很容易因为版本问题加载失败我建议保存时把model.state_dict()和vocab.json一起存并在代码里固定MAX_LEN和preprocess_single函数这样换机器只要重新实例化模型再加载权重就行。当年我做课设时因为只存了模型没存词表换台电脑跑在线预测直接报错把教训写成了一条注释贴在项目开头。情感分析项目的分水岭从来不是模型有多复杂而是你有没有把数据处理、训练、评估、预测这条链路捏成一个闭环并且能解释每一个参数的作用。把这个闭环做到位加分项哪怕是补一段注意力权重可视化也足够让这个项目在一堆“用了 LSTM”的工程里被记住。希望帮到你。本文还有配套的精品资源点击获取