如何把任意GGUF模型接入ATLASatlas lens build与atlas asa build逐模型重训练完整教程【免费下载链接】ATLASAdaptive Test-time Learning and Autonomous Specialization项目地址: https://gitcode.com/gh_mirrors/atlas112/ATLASATLAS 是一个完全本地运行的开源编码智能体Coding Agent而把任意 GGUF 模型接入 ATLAS正是它自带模型BYO-Model能力的核心换上新模型后用atlas lens build重训 Geometric Lens 质量评分器、用atlas asa build训练专属 ASA 转向向量ATLAS 就能继续在新模型上规划、生成、校验代码全程不依赖任何云端 API。本教程按下载 → 适配 → 训练 → 验证四步带你完整走一遍逐模型重训练流程。为什么每个 GGUF 模型都要单独重训练ATLAS 靠两件模型专属的附属工件artifacts来给候选代码打分和纠偏Geometric LensC(x) G(x)直接读取模型自身的隐藏状态来评估代码质量。C(x) 是成本场G(x) 是基于 XGBoost 的正确性预测器。两者的网络结构与模型的隐藏维度hidden dim强耦合——换模型后维度一变旧工件直接无法加载。ASA 转向向量一个注入到模型残差流的 GGUF 控制向量把模型引导向structural_edit结构化编辑而非逐行打补丁。它的维度和注入层数同样绑定具体模型。设计细节见 ADR 文档 docs/adr/0003-per-model-bundles.md工件清单与格式说明在 geometric-lens/geometric_lens/models/README.md。一句话ATLAS 从不借用别的模型的阈值和权重每个 GGUF 都有自己的标定包而atlas lens build/atlas asa build就是生成这个标定包的正规入口。接入前置下载模型并适配运行时第 1 步放入 GGUF 并指定给 ATLAS把.gguf文件放进模型目录默认./models或在.env中设置ATLAS_MODEL_FILEyour-model-Q4_K_M.gguf ATLAS_MODEL_NAMEyour-model-Q4_K_M未注册模型也可用atlas model install --url 下载链接直接抓取。第 2 步用 atlas onboard 一键完成安全检查atlas onboard会自动解析模型、校验 llama.cpp 是否认识该架构、检查 Lens 兼容性并打印后续的重训练步骤若架构过新需要重建推理镜像它会停下来给你命令而不是替你执行避免意外丢掉 ATLAS 的隐藏状态补丁atlas onboard # 走查 .env 中已指向的模型 atlas onboard --url gguf下载链接 --apply # 先下载再写入 .env第 3 步atlas tier fit 为这张 GPU 解出最优上下文不同模型的 KV cache 占用差异巨大按旧模型调好的预算在新模型上可能 OOM 或悄悄落到 CPU慢 5 倍。atlas tier fit会读取 GGUF 头和显存解出推理完全留在 GPU 上的最大上下文atlas tier fit --write # 预览并写入 .env随后只需重启推理服务不要整个栈重拉会触发漫长的 CUDA 重建docker compose up -d llama-server --no-deps --force-recreate以上完整流程的官方逐步说明见 docs/CONFIGURATION.md 的 Adding your own model 小节。atlas lens build为模型训练质量评分器Lens 的训练分两步先让模型自己出卷并自判答案再用这些自标注样本训练 C(x) G(x)一次 run 同时训完两半。第 1 步用 atlas bench 生成带标签的训练样本atlas bench --run-id mymodel_lens --tasks 200atlas bench会为 LiveCodeBench 任务各生成一份候选代码、在本地沙箱执行把每道题的codepassed写入benchmark/results/mymodel_lens/v3_lcb/per_task/。注意两点大模型跑满整体会耗时数小时建议先用--tasks 15做冒烟验证中断可续跑每个任务的结果原子写入重跑会自动跳过已完成的任务。第 2 步一条命令训练 C(x) 与 G(x)atlas lens build --force --from-results benchmark/results/mymodel_lens/v3_lcb/per_task关键参数与注意事项参数作用--from-results dir用atlas bench的 per_task 目录训练新模型推荐的官方路径--samples file改用手工标注文件格式为{text: ..., label: 0/1}的 JSON/JSONL--epochs N/--lr/--margin调参默认 200 epochs--force覆盖已有工件强制重训--dry-run只提取嵌入、跳过训练与落盘--artifact-dir DIR指定工件输出目录硬性要求与质量门槛至少 50 条样本且正负类都要有低于此数 build 会直接拒绝样本太少的 C(x) 会主动排错序测试集 AUC 低于 0.70 时会给出加样本或加 epochs的警告嵌入会按文本哈希缓存重跑只补算新增样本切换模型后维度变化会自动使缓存失效训练在宿主机进行需 CPU 版 PyTorch XGBoost/scikit-learn 即可。训练成功后工件目录默认 geometric-lens/geometric_lens/models/会落下一整套标定包cost_field.ptC(x)、gx_xgboost.jsongx_weights.jsonG(x)、model_identity.json模型名维度指纹防止同宽度的别的模型误用工件、cx_normalization.json和gx_thresholds.json按本模型 PASS 分数第 5/10/20 百分位自动标定的severe/off_rails/low干预阈值外加provenance.json构建清单数据集、样本数、指标、逐文件哈希。第 3 步重启并验证docker compose restart geometric-lens # 让 Lens 服务加载新工件 atlas lens check # 应返回 compatexit 0atlas lens check会探活/embedding与/props接口、比对工件维度三种结论compat就绪、needs-build缺工件/维度不符、incompatible服务不可达。atlas asa build训练模型专属转向向量ASA 走的是另一条管线atlas asa build把对比样本contrast pairs和训练脚本送进 lens 容器执行在指定层提取残差流、生成ast_edit_steering.gguf并拷回宿主机。atlas asa build # 用内置 contrast_pairs.jsonl1000 对训练 atlas asa build --limit 50 # 冒烟测试50 对约 1 分钟先验证管线再跑全量 atlas asa build --pairs custom.jsonl # 自定义对比对{prompt, label} 格式 atlas asa build --layer index # 显式指定提取层实用要点提取层默认取模型总层数的 75%层数自动从 llama-server 的/props或 GGUF 头读取一般无需手填参考时长全量 1000 对约 25 分钟以 RTX 5060 Ti 为基准所以先用--limit 50验证端到端流程训练完成后.gguf落在ATLAS_CONTROL_VECTOR所在目录然后docker compose restart llama-server # 向量在 bind mount 的模型目录里无需重建镜像 atlas asa check # 应返回 compatexit 0asa check会比对向量残差维度与模型嵌入维度是否一致未安装gguf包pip install gguf时结论会降级为compat: unverified——最坏情况也只是 llama-server 启动时拒绝加载不兼容向量报错清晰。管线细节见 geometric-lens/asa_calibration/README.md。收尾atlas doctor 总检与工件发布全部完成后跑一次atlas doctorLens 维度匹配、模型加载、e2e 冒烟全绿即接入成功。如果你希望这份标定包能被其他用户直接下载还可以用发布命令一键上传并生成注册表 PRatlas lens publish registry-name --repo user/repo atlas asa publish registry-name --repo user/repo--dry-run可预览 PR 内容而不上传。发布全流程令牌配置、PR 审查见 docs/PUBLISHING.md。常见问题速查症状原因与对策lens check报needs-build缺工件或维度不符按上面流程跑atlas lens build若注册表已发布工件优先atlas model install-artifacts name直接下载模型加载报unknown (model) architecturellama.cpp 版本不认识该架构需按 docs/TROUBLESHOOTING.md 重建推理镜像重建时不要移除expose-hidden-states补丁build 报样本不足少于 50 条或单类缺失加大atlas bench --tasks或补充--samples文件AUC 0.70 警告增加样本量或 epochs 后重训命令提示先启动栈Lens/ASA 命令都依赖运行中的 llama-server先docker compose up -d相关文件导航CLI 全量参考docs/CLI.mdatlas lens/atlas asa/atlas bench/atlas onboard各小节自带模型接入逐步指南docs/CONFIGURATION.mdLens 命令实现atlas/commands/lens.pyASA 命令实现atlas/commands/asa.pyOnboard 引导实现atlas/commands/onboard.py排障手册docs/TROUBLESHOOTING.md按这套下载 → tier fit → bench → lens build → asa build → doctor的流程走下来任何架构兼容的 GGUF 模型都能在数小时内完成接入并拥有与官方模型同等待遇的逐模型质量评分与行为引导。【免费下载链接】ATLASAdaptive Test-time Learning and Autonomous Specialization项目地址: https://gitcode.com/gh_mirrors/atlas112/ATLAS创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考