Julia 1是什么？一文读懂把上下文变成决策的144M参数决策模型

Julia 1是什么一文读懂把上下文变成决策的144M参数决策模型【免费下载链接】Julia-1项目地址: https://ai.gitcode.com/hf_mirrors/SupersonicLabs/Julia-1Julia 1是 Supersonic Labs 发布的第一个决策模型decision model仅有 144.3M 参数。它不聊天、不生成文本而是把「一段上下文 一个问题 2~20 个候选答案」变成一次明确的决策用同一个接口同时支持分类、路由、有序打分和布尔判断。对新手来说你可以把它理解为一个专门做选择题的小型 AI 引擎。为什么需要决策模型传统规则或关键词路由器需要人工穷举短语、维护分支顺序每加一个分类就要改一次代码。Julia 1 的做法完全不同它同时阅读你提供的上下文state和每个候选答案的含义直接给出得分与选择结果。能力传统路由器Julia 1新增标签需要重写规则/新增输出头直接传入新候选列表输出形式单一类型choice / score / noul 三种依赖知识靠人工枚举靠上下文证据它基于多语言编码器 mmBERT-small保留其编码器与分词器并额外增加了一个决策头decision head专门针对在给定选项中选出答案的任务进行训练。模型配置见 julia_config.json。3 种决策类型一个接口搞定所有选择题Julia 1 通过命名问题named questions接口支持三种任务类型类型输入criteria输出choice2~20 个 ID 到描述的映射choice胜出 IDscore2~20 条有序评分标准score期望的评分档位索引noul可选的false/true描述映射noul为真的概率三种类型都返回完整的 softmax 概率分布且多个问题可以在一次调用中批量独立打分。推理策略参数如 8192 token 上下文上限、严格编码记录在 inference-policy.json 中。5 分钟上手CPU 即可运行Julia 1 无需 GPUPython 3.11 加标准 PyTorch 即可。完整步骤python -m pip install huggingface_hub python -c from huggingface_hub import snapshot_download; snapshot_download(SupersonicLabs/Julia-1, local_dirJulia-1) python -m pip install -e ./Julia-1然后用几行代码完成一次路由决策from julia import load_model engine load_model(Julia-1, devicecpu, strict_encodingTrue, max_length8192) result engine.predict( stateI was charged twice for the same order., questions{ team: { type: choice, instructions: Which team should handle this request?, criteria: { billing: Billing and payment disputes, shipping: Shipping and delivery, access: Account access and login, }, }, }, ) print(result[answers][team][choice]) # 胜出选项 print(result[answers][team][probabilities]) # 完整概率建议把engine保持在内存中复用避免每次请求重复加载 550.5 MiB 的权重文件model.safetensors。基准成绩144M 参数能打几分以下是 2026-09-24 在 H200 BF16 严格编码下的实测数据详见 metrics/accuracy-20260924.json基准测试成绩对比参考Typed decisions2000 题73.15%0.45 ppAG News · 4 分类94.00%3.00 ppDAIR Emotion · 6 分类86.00%38.00 ppBanking77 试点 · 72 标签64.00%−23.00 ppMASSIVE 场景分类 · 52 种语言71.50%葡语/英语均超 86%可以看出它的甜区非常清晰候选项明确、答案就在选项里的任务表现极佳而长尾标签列表如 Banking77则明显吃力。选项超过 20 个怎么办用 Router 分层收窄原生模型一次只能处理 2~20 个选项。对于更大的候选集项目内置了分层路由组件先分组缩小范围再对存活者重排理论上可处理更长的 choice 列表。路由实现源码julia/router.py说明文档见 julia/router/README.md注意分组结果的概率只在组内可比收窄过程有可能淘汰正确答案它属于容量扩展而非质量保障它不擅长什么部署前必读避免踩坑请牢记这些边界不补知识它只能比较你给的答案无法提供缺失的事实不保证能解多步推理不是生成模型不能替换 Transformers 的 AutoModelForMaskedLM也不能当聊天模型用⚠️严格编码strict_encodingTrue会拒绝超长截断默认 8192 token 总上限、单选项 48 token⚠️100 题试点只是信号上线前务必用自己的问题和选项实测复现脚本scripts/reproduce_typed.py仓库结构速览路径作用julia/engine.py推理引擎核心julia/encoder.py严格编码与分词julia/model.py决策模型定义julia/probabilities.pysoftmax 概率计算tokenizer/tokenizer.json分词器provenance.json权重哈希与验证溯源tests/test_typed_api.pyAPI 测试用例总结Julia 1 用 144M 参数证明了有限选项决策这条路可以做得很准——如果你的业务本质是从明确候选里做选择客服分派、意图分类、质量打分、布尔判断它就是目前值得关注的轻量级方案但需要开放知识或多步推理的场景请先在自有数据上验证再决定。【免费下载链接】Julia-1项目地址: https://ai.gitcode.com/hf_mirrors/SupersonicLabs/Julia-1创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考