前言2017年Google发表的《Attention Is All You Need》彻底颠覆了NLP乃至整个深度学习领域摒弃了RNN、LSTM等循环序列模型的串行计算模式完全基于注意力机制构建的Transformer架构成为了BERT、GPT、LLaMA、ChatGPT等所有大语言模型的底层基石。很多初学者学习Transformer时常常被QKV矩阵、多头注意力、编解码结构、掩码机制等概念绕晕。本文将从零起步循序渐进讲解词向量与嵌入层、自注意力机制、编码器、解码器四大核心模块拆解每一步工作原理规避晦涩公式堆砌兼顾原理深度与落地理解零基础也能轻松看懂。 本文核心知识点词向量的核心作用与技术意义嵌入层位置编码的输入处理逻辑自注意力机制底层原理、QKV计算流程、缩放点积的作用多头自注意力的优势与工作机制编码器完整结构与特征提取逻辑解码器三层核心结构与序列生成原理编解码协同工作的完整流程Transformer 架构图左边为编码器右边为解码器。一、词向量AI理解人类语言的基础1.1 什么是词向量计算机无法直接识别文字、词语等人类自然语言只能处理数值数据。词向量Word Embedding的核心作用就是将离散、无规律的自然语言词汇映射为低维、稠密、连续的实数向量实现语言符号到数值空间的转换。简单来说每一个词语都会被转化为一个固定维度的向量Transformer默认512维向量中的每一个数值都代表该词语的某一项语义特征。举例“猫”、“狗”的词向量数值相似度极高同属动物“电脑”、“水杯”的词向量数值差异较大语义无关1.2 词向量的核心重要性传统的独热编码One-Hot存在致命缺陷维度爆炸、词语之间相互独立、无法表达语义关联。而词向量完美解决了这些问题是NLP模型的前置核心基础语义关联建模通过向量空间距离精准刻画词语的语义相似性、关联性让模型理解语言逻辑维度精简高效摒弃高维稀疏编码用固定低维向量表示所有词汇大幅降低计算成本可训练迭代词向量并非固定值会随着模型训练不断优化适配不同任务的语义特征通用特征载体是所有Transformer类模型的输入基础所有语义理解、文本生成任务都依赖词向量展开二、嵌入层Transformer的输入预处理核心嵌入层Embedding Layer是Transformer的第一层网络负责完成原始文本的数值化转换同时解决注意力机制的固有缺陷。完整输入处理包含词嵌入和位置编码两个核心步骤。2.1 词嵌入文本转向量输入文本首先经过分词处理拆分为若干Token字词单元随后通过嵌入层的词向量查询表将每一个Token转换为固定维度的词向量。假设输入句子包含N个Token最终会输出一个N×d_model的矩阵d_model为模型维度标准Transformer为512。2.2 位置编码补充序列时序信息这是Transformer区别于RNN的关键自注意力机制本身无法感知序列顺序它只关注词语语义关联不区分词语先后顺序无法识别“猫追老鼠”和“老鼠追猫”的语义差异。为了解决该问题Transformer引入位置编码Positional Encoding通过正弦、余弦函数生成位置向量为每个Token注入时序位置信息。最终模型的输入向量公式为InputEmbedding WordEmbedding PositionalEncoding简单理解词向量负责存储语义信息位置编码负责存储顺序信息二者叠加后模型才能完整理解自然语言。三、自注意力机制Transformer的核心灵魂如果说嵌入层是Transformer的“输入眼睛”那自注意力机制Self-Attention就是Transformer的“大脑”。其核心思想非常简单让序列中的每一个Token动态关注整个序列中所有相关Token捕捉全局上下文依赖。不同于RNN只能串行捕捉局部时序依赖自注意力可以直接建模长距离语义关联这也是大模型能够理解超长文本的核心原因。3.1 核心QKV矩阵原理自注意力通过三个可训练的权重矩阵对输入向量做线性变换生成Query、Key、Value三个特征矩阵三者分工明确Query查询Q当前Token的特征向量代表“我要找什么信息”Key键K全局所有Token的特征向量代表“我有什么信息”Value值V全局所有Token的原始语义信息代表“我能提供什么信息”3.2 缩放点积注意力完整计算流程标准缩放点积注意力Scaled Dot-Product Attention分为4步全程无复杂非线性计算高效且易并行步骤1计算注意力分数Q与所有K做矩阵点积得到当前Token与全局所有Token的语义关联分数分数越高代表两个词语关联性越强。步骤2缩放归一化将分数除以 √dkK向量维度的平方根。核心作用是避免维度过高时点积结果数值过大导致Softmax梯度消失、训练不稳定。步骤3Softmax归一化将缩放后的分数转换为0-1之间的概率权重所有权重之和为1直观体现各Token的关注优先级。步骤4加权求和用归一化后的注意力权重对V矩阵做加权求和得到融入全局上下文的全新Token特征向量。核心公式Attention(Q,K,V) Softmax( QKT/ √dk)V3.3 多头自注意力Multi-Head Attention单一自注意力头只能捕捉单一维度的语义关联而多头自注意力通过拆分QKV、并行计算多组注意力大幅提升模型特征提取能力将QKV均匀拆分为h组标准Transformer h8每组独立计算注意力不同注意力头分别捕捉语法、语义、语序、指代等不同维度的特征拼接所有头的输出通过线性层融合特征得到最终注意力输出优势并行计算、多维度特征捕捉、避免单一注意力的特征局限是模型理解复杂语义的关键。四、编码器Encoder全局语义理解模块Transformer的编码器由6层完全相同的网络层堆叠而成核心功能是对输入文本做全局语义编码提取完整上下文特征主要用于理解类任务如文本分类、语义匹配、BERT预训练。4.1 单层编码器完整结构每一层编码器包含两个核心子层搭配残差连接与层归一化LayerNorm结构简洁且高效多头自注意力子层无掩码的全局自注意力每个Token可以自由关注序列所有位置充分挖掘全局语义关联。残差连接层归一化残差连接解决深层网络梯度消失问题层归一化统一特征分布加速模型收敛。前馈神经网络FFN对每个Token的特征做独立非线性变换提升模型表达能力挖掘复杂语义特征。二次残差归一化完成单层网络的特征优化输出。4.2 编码器核心特点双向感知上下文双向可见适合文本理解任务全局建模无序列遮挡捕捉完整长距离依赖特征提纯多层堆叠逐步细化语义特征输出高质量编码特征五、解码器Decoder序列生成模块解码器同样由6层相同网络层堆叠而成在编码器两层子层的基础上新增一层掩码自注意力核心功能是基于编码器的全局特征逐字生成目标序列主要用于生成类任务机器翻译、文本续写、GPT生成。5.1 单层解码器三层核心结构掩码多头自注意力Masked Multi-Head Attention核心作用防止未来信息泄露。序列生成是逐字迭代过程生成第i个Token时不能看到i之后的所有Token。通过上三角掩码矩阵屏蔽未来位置的注意力分数保证生成时序合法性。编码器-解码器交叉注意力Cross-Attention这是编解码协同的核心区别于自注意力的自身建模交叉注意力的Q来自解码器上一层输出K、V来自编码器的最终输出。让解码过程的每一步都能动态关注输入文本的全局特征实现输入与输出的语义对齐。前馈神经网络FFN与编码器一致对融合后的特征做非线性优化提升生成文本的语义准确性与流畅度。5.2 解码器工作逻辑采用自回归生成模式从起始Token开始逐次生成一个新Token将新Token加入输入序列迭代循环直到生成结束Token最终完成完整文本序列生成。六、关键答疑编码器输出与解码器输入的核心关系在学习编解码协同工作流程时绝大多数初学者会混淆编码器输出和解码器输入这里做精准、通俗的权威界定打通核心逻辑闭环1. 编码器的输出Token 全局抽象语义向量编码器经过6层堆叠迭代计算后最终输出的不再是原始词向量仅包含孤立语义也不是简单的嵌入向量而是融合整句双向上下文、全局语义信息的高级抽象Token向量矩阵。每一个位置的向量都已经结合了全文所有Token的关联特征是源文本的终极语义表征。2. 该抽象向量的用途不直接作为解码器原始输入仅供给交叉注意力层很多人误区编码器输出 解码器输入。实际编解码分工极其明确解码器原始输入喂给掩码自注意力是目标序列的Token嵌入向量带位置编码。比如机器翻译中是已经生成的译文Token文本续写中是模型已经输出的历史Token用于保证生成时序合法、自回归迭代输出。编码器输出喂给交叉注意力作为全局语义上下文素材只作用于解码器的Cross-Attention层。解码器每生成一个新Token都会通过交叉注意力查询编码器的全局抽象向量对齐源文本语义保证生成内容不偏离原文语义。一句话终极总结编码器输出是源文本的全局抽象语义知识库用于语义对齐解码器输入是已生成的目标序列历史内容用于续写生成二者配合完成完整的语义理解文本生成流程。七、Transformer整体工作全流程总结为方便大家整体串联知识点梳理完整端到端工作流程输入预处理文本分词 → 词嵌入生成语义向量 → 位置编码注入时序信息得到模型初始输入。编码器编码多层双向自注意力FFN迭代优化提取输入文本全局、双向上下文特征输出编码矩阵。解码器迭代生成掩码自注意力保证时序合法 → 交叉注意力对齐输入特征 → FFN优化特征逐字生成目标序列。输出映射通过全连接层Softmax将解码特征映射为词汇表概率分布输出最终生成文本。八、核心模块对比与核心亮点8.1 编码器VS解码器核心区别编码器双向无掩码、专注语义理解、输出全局特征、适用于理解类任务解码器单向掩码、专注序列生成、依赖编码特征、适用于生成类任务8.2 Transformer核心优势完全并行计算摒弃RNN串行依赖所有Token可并行计算训练效率大幅提升超长依赖建模自注意力直接捕捉全局关联彻底解决RNN长序列梯度消失问题特征精细度更高多头注意力编解码分层设计多维度挖掘语义特征九、总结与学习感悟本文从基础到核心完整拆解了Transformer四大核心模块词向量是语言数字化的基础嵌入层完成文本输入预处理自注意力机制实现全局语义建模编码器负责理解、解码器负责生成。所有大语言模型的迭代优化本质上都是对Transformer基础架构的微调、扩容与优化BERT仅保留编码器做理解任务GPT仅保留解码器做生成任务机器翻译模型则完整保留编解码结构。吃透这一套基础原理是深入学习大模型微调、Prompt工程、模型部署的必备前提。后续我会持续更新Transformer进阶知识点RoPE位置编码、稀疏注意力、模型缩放原理等欢迎持续关注 码字不易点赞收藏关注持续更新AI深度学习干货