第一章目录 - 什么是人工智能 - 人工智能发展三要素 - 人工智能技术体系 - 模型训练过程 - 训练方式分类 - 常见训练任务 - 大模型的定义及概念 - 提示词工程 - 智能体开发基础 - AI编程(AI Coding)4、模型训练过程模型训练是人工智能尤其是机器学习的核心环节其本质是让计算机程序模型从数据中自动学习规律和模式从而获得解决特定任务的能力。整个过程可以抽象为一个迭代优化的闭环通常包含以下几个关键步骤1. 数据准备与预处理数据收集获取与目标任务相关的原始数据如文本、图像、音频等。数据的质量和数量直接影响模型最终性能。数据清洗处理缺失值、异常值、重复数据确保数据集的干净与一致。特征工程将原始数据转换为模型能够理解的数值特征。例如将文本转换为词向量将图像像素转换为多维张量。数据集划分通常将数据划分为训练集用于模型学习、验证集用于调参和模型选择和测试集用于最终性能评估。2. 模型选择与初始化根据任务类型分类、回归、聚类等和数据特点选择合适的模型架构例如线性回归、决策树、神经网络CNN、RNN、Transformer等。对模型参数进行随机初始化为后续的优化过程设定一个起点。3. 前向传播与损失计算前向传播将训练数据输入模型经过层层计算得到模型的预测输出。损失计算使用损失函数如均方误差、交叉熵来量化模型预测值与真实标签之间的差距。损失值越小说明模型预测越准确。4. 反向传播与参数更新反向传播利用链式求导法则将损失值从输出层向输入层逐层反向传递计算损失函数相对于每个模型参数的梯度即参数变化对损失的影响程度。参数更新使用优化算法如随机梯度下降SGD、Adam根据计算出的梯度和预设的学习率沿着梯度下降的方向调整模型参数以减小损失值。5. 迭代训练与评估将步骤3和4重复多次即多个训练轮次或迭代。每个轮次或每隔一定轮次后在验证集上评估模型性能如准确率、精确率、召回率监控模型是否过拟合或欠拟合并据此调整超参数如学习率、网络层数。大家可以参考下面这张图展示的迭代过程来形象地理解大模型训练的迭代过程。6. 模型验证与测试当模型在训练集和验证集上的性能趋于稳定且达到预期后训练过程结束。最后在从未参与过训练的测试集上对模型进行最终评估得到其泛化能力的客观指标。7. 模型部署与应用将训练好的模型保存如保存为.pth、.h5或.pb文件并集成到实际应用系统中对外提供推理服务。整个过程可以形象地理解为“老师数据教学生模型做题”老师准备习题册数据准备。学生拿到一本空白的解题本模型初始化。学生尝试解题并得出答案前向传播。老师批改指出错误计算损失。学生分析错题总结错误原因反向传播并修正自己的解题思路参数更新。经过大量习题练习和纠错迭代训练学生的解题能力模型性能不断提升最终能够独立、准确地解答新题目泛化。5、训练方式分类学习范式数据特点目标任务常见应用场景有监督学习有充足的、高质量的“输入-输出”标签对。预测/分类从已知答案中学习规则对新输入给出预测。标准化客服训练用历史问答对训练让AI回答新问题。无监督学习只有原始数据无任何标签。探索/发现从数据自身中找出隐藏的模式、分组或异常。客户分群无预设标签从消费数据中自动划分客户类型。半监督学习少量有标签数据 大量无标签数据。高效利用数据利用大量廉价的无标签数据辅助提升有监督任务的性能。内容审核用少量人工标注海量未标注内容训练更强大的审核模型。强化学习无静态数据只有动态的“状态-动作-奖励”交互序列。决策优化在环境中通过试错学习能获得最大长期回报的最佳行动策略。自动化交易让AI在模拟/真实市场中交易通过盈亏信号自我优化策略。6、常见训练任务分类任务先找到数据样本中的分界线再根据分界线对新数据进行分类分类数据是离散的值。比如图片识别、情感分析等领域会经常用到分类任务。聚类任务聚类是根据样本之间的相似度将一批数据划分为N个组。比如用户分组、异常值检测会用到聚类任务。用户分组比较好理解那异常值检测为什么会用到聚类呢因为数据是场景中如果某个样本点离所有分类组的距离都很远不属于任何一个组我们则会将其是一个“异常值”。拟合任务拟合就是把平面上一系列的点用一条光滑的曲线连接起来。回归任务回归是对已有数据样本点进行拟合然后再根据拟合出来的函数对未来进行预测。回归数据是连续的值比如商品价格走势的预测就是回归任务。