基座模型的选择模型的分类维度预训练模型 (Pre-trained Model)微调模型 (Fine-tuned Model / Instruct Model)定义与状态完成基础预训练未进行下游任务适配在预训练基础上进一步适配下游任务如医疗问答、代码生成等类比形象高中生完成基础知识学习知识广而不专精大学生进一步学习具体专业某一领域表现更强可塑性与上限可塑性更强模型上限更高可塑性相对较弱调教难度与要求难度大需要更多的数据和更强的微调技术难度较低因已具备指令遵循和对话能力调教容易许多适用场景适合复杂的场景和经验丰富的人士适合快速落地或小幅优化的场景如客服机器人上手建议门槛较高适合进阶探索适合新手知名微调框架 Unsloth 官方也建议从微调模型入手学习注意推理模型一般用在数学代码公式推理等还有复杂的任务一般不选择思考模型模型类别的辨别辨别维度模型类型与特征典型命名举例 / 说明1. 预训练模型 (Pre-trained / Base)• 无后缀• 后缀包含 baseQwen2.5-7BQwen2.5-7B-Base(代表纯底座未做指令对齐)2. 微调模型 (Fine-tuned / Instruct)• 带有特定后缀• 需结合后缀含义判断可能代表任务微调、量化或其他属性Qwen2.5-7B-Instruct (指令/对话微调)Qwen2.5-7B-Coder (代码微调)Qwen2.5-7B-Instruct-GPTQ-Int4 (量化版本)3. 兜底识别法 (保险起见)• 寻找 instruct 关键字如果模型名称中包含 instruct或 Chat通常可以安全地将其判定为已经过指令遵循和对话微调的模型。模型选择然后下载尝试从魔搭下载模型,地址千问3-0.6B框起来的部分就是模型的名称执行如下命令uv pip install modelscope -i https://mirrors.aliyun.com/pypi/simple mkdir models modelscope download --model Qwen/Qwen3-0.6B --local_dir ~/study/finetune/models模型已经下载完成了尝试一下启动模型。接下来去\finetune\LLaMA-Factory\examples\train_lora老地方下修改配置文件这次使用绝对路径来指定模型再接着执行llamafactory-cli train examples/train_lora/qwen3_lora_sft.yaml同样的执行成功了高质量数据集的构建数据决定模型的上限调参只是让你逼近这个上限为了让模型在上线后表现更好我们的训练数据必须尽可能“还原”真实用户的提问习惯包括问题类型、说话风格和难易程度。简单来说就是让训练数据和实际预测数据的分布越接近模型的泛化效果才会越出色。蒸馏数据作为启动点通过数据蒸馏技术提炼高质量、高密度的核心数据为模型打下坚实基础。训练模型利用蒸馏后的高质量数据进行模型训练确保模型学习到最核心的特征与规律。上线模型将训练好的模型部署到生产环境开始对外提供服务。用户应用真实用户在业务场景中使用模型服务产生实际的交互行为。收集数据从用户应用中回流真实的反馈数据包括Bad Case和新颖的提问这些数据经过处理后再次进入“训练模型”环节形成闭环。数据的准备意图识别数据量可以不用太多、知识库取决于知识库的大小知识库大则需要的数据多反之则小。原则要求质量优于数量数据的纯净度和准确性是基石。无论数据来源如何必须经过严格的质量评估低质数据不仅无用反而会干扰模型学习即“垃圾进垃圾出”。规模适度原则数据量并非越大越好也非越少越精。过少会导致模型学不到东西欠拟合过多则可能导致计算资源浪费甚至模型“遗忘”旧知识。最佳策略是保持适量并在训练过程中动态调整边调边测。覆盖多样性数据集必须具备足够的广度。要尽可能覆盖用户可能提出的各种问题和提问方式防止模型在面对未见过的场景时失效这是提升模型泛化能力的关键。准备方法我们继续进入魔搭社区去下载数据集我这边使用一个脑筋急转弯的数据集地址如下脑筋急转弯并记住数据集的名称helloworld0/Brain_teasers这样子就可以下载数据集了modelscope download --dataset helloworld0/Brain_teasers --local_dir /home/xing/study/finetune/dataSet在llamaFactory使用数据总结第一步是在微调前提前注册这个数据第二步是在微调时选择这个数据。建议在「finetune\LLaMA-Factory」自己新建一个dataSet存储数据myYaml存储配置文件第一步数据的注册在finetune\LLaMA-Factory\data下的「dataset_info.json」进行数据集的注册有名称有路径地址数据这样子就注册完了。注意formatting是指定数据集的格式。有alpaca和shareGPT格式后面会涉及第二步数据的选择去finetune\LLaMA-Factory\examples\train_lora路径下把之前的「qwen3_lora_sft.yaml」复制到我自己存储配置的文件夹myYaml下选择好模型使用之前注册好的数据集do_train意为是否需要训练不做训练的话仅仅就是数据的处理执行「llamafactory-cli train myYaml/brainTeaser.yaml」数据集格式自定义数据集假设数据集信息如下A:对暗号! B:一支穿云箭 C:万里来相见 D:我是多余的然后自定义配置文件就该这么写D字段没有应用