【免费下载链接】pplx-decider-v1-27b项目地址https://ai.gitcode.com/hf_mirrors/perplexity-ai/pplx-decider-v1-27b点击查看免费下载pplx-decider-v1-27b 是 Perplexity AI 开源的决策模型基于 Qwen3.8-27B 微调它不擅长长篇对话而是专注一件事对给定内容做出判断。模型内置choice多选一、noul是/否概率、score连续评分三种决策模式覆盖分类、二分类和打分几乎所有判断类需求。本文用通俗语言和最小示例带你一次搞懂 pplx-decider 三大模式的用法、返回结果与适用场景。一、认识 pplx-decider专做判断的开源决策模型在 11 个常见判断基准测试中pplx-decider-v1-27b 整体准确率达到85.71%显著高于基座模型 Qwen3.8-27B 的 74.76%数据来源README.md基准测试Qwen3.8-27Bpplx-decider-v1-27bWinoGrande73.10%83.30%FinancialPhraseBank75.68%84.18%RAGTruth61.53%88.80%BBH72.80%82.80%TabFact78.60%90.60%TruthfulQA binary82.80%85.40%Overall74.76%85.71%它的核心设计思路是把所有判断统一成从一组选项里挑最佳答案再输出每个选项的校准概率。仓库中的关键文件README.md官方说明与准确率数据inference.py可直接运行的推理示例config.json / decision_config.json模型结构与决策配置含校准 temperaturereadout.safetensors255 个选项的决策读出层权重source/src/autojev/完整决策引擎源码 硬件要求Python 3.12 和一张约 49 GiB 显存的 CUDA GPU。二、pplx-decider 快速上手两条命令跑起来最简单的验证方式是直接用官方推理脚本依赖由 uv 自动安装uvx --from huggingface-hub hf download perplexity-ai/pplx-decider-v1-27b inference.py --local-dir . uv run inference.py如果只想给单张图片做判断加上--image参数即可uv run inference.py --image screenshot.png在已装好依赖的环境中也可以直接调用 Decider 类from inference import Decider model Decider.from_pretrained(perplexity-ai/pplx-decider-v1-27b) result model.predict( My Stripe integration keeps failing. Please help ASAP., {type: noul, instructions: Does this message express urgency?}, ) print(result) # 输出是的概率例如 {type: noul, noul: 0.93}无论哪种模式调用方式都是predict(state, question)state 是被判断的内容question 描述要判断什么。下面逐个拆解三种question.type。三、choice 模式从多个选项中挑出最佳答案choice是最通用的模式适合把消息分给哪个团队情绪是正面还是负面这类单选分类任务。问题由三部分构成类型定义见 types.pytype: choice声明模式instructions判断指令criteria选项字典键是选项名值是该选项的说明可以是空question { type: choice, instructions: Which team should handle this request?, criteria: { billing: Charges and refunds, technical_support: Integration errors, sales: Questions about buying a product, }, }返回结果包含三样东西计算逻辑见 model.pychoice概率最高的选项名probabilities每个选项的校准概率confidence置信度概率超出随机猜测的部分0~1{ type: choice, choice: technical_support, probabilities: {billing: 0.04, technical_support: 0.92, sales: 0.04}, confidence: 0.43 }criteria最多支持255 个选项——底层用 255 个单 token 代码A~Z、AA~JT作为答案空间映射关系记录在 decision_config.json 中。四、noul 模式输出是/否的校准概率noul模式专治二分类问题这条消息是否表达了紧急这个评论是否描述了产品缺陷它只需要一句指令选项可省略默认即 true/falsequestion {type: noul, instructions: Does this message express urgency?}也可为两个选项补充说明帮助模型理解边界字段定义见 types.py{ type: noul, instructions: Is the customer requesting a refund?, criteria: {true: Explicitly asks for money back, false: No refund request} }内部实现上noul 被展开为[false, true]两个选项返回的noul字段就是是的概率0~1 小数{type: noul, noul: 0.93} 与 choice 的区别noul 只给概率不给选择方便你自己设阈值如 0.7 才算是适合需要调节严格程度的场景。五、score 模式把判断结果打到连续刻度上当答案不是非此即彼而是程度不同时用score模式。它的criteria是一个有序列表2~10 个等级等级数校验见 server.py列表顺序从低到高question { type: score, instructions: How urgent is the request?, criteria: [ No deadline; can wait, Needs attention this week, Requires attention today, ], }返回结果多了一组信息计算逻辑见 model.pyscore概率加权的刻度值例如1.87 / 2表示非常接近今天必须处理legend刻度下标与等级描述的对照表probabilities每个等级的概率confidence分布越集中置信度越高{ type: score, score: 1.87, legend: {0: No deadline; can wait, 1: Needs attention this week, 2: Requires attention today}, probabilities: {0: 0.02, 1: 0.11, 2: 0.87}, confidence: 0.81 } 等级建议控制在 2~5 个等级越多每个等级的概率越分散score 的区分度反而下降。六、三种模式怎么选一张对比表说清楚维度choicenoulscore适用场景多类单选路由、分类、情绪是/否判断紧急退款缺陷程度打分紧急度、满意度criteria 结构字典选项 → 说明可省略或 true/false 说明有序列表2~10 个等级返回核心choice probabilities confidencenoul是的概率score legend probabilities是否需要自己设阈值否直接给最优项是概率自由取用半自动score 已是刻度值选择口诀答案能穷举 → choice答案是二元的 → noul答案有程度之分 → score。七、实战示例一条消息同时跑三种模式官方 inference.py 的默认演示就是绝佳范例对同一条客服消息同时发起 noul紧急程度和 choice团队路由两个判断state My Stripe integration keeps failing. Im losing sales. Please help ASAP. results { urgency: model.predict(state, { type: noul, instructions: Does this message express urgency?}), routing: model.predict(state, { type: choice, instructions: Which team should handle this request?, criteria: {billing: Charges and refunds, technical_support: Integration errors, sales: Questions about buying a product}}), }输出大致如下数值因模型版本略有差异{ urgency: {type: noul, noul: 0.95}, routing: {type: choice, choice: technical_support, confidence: 0.71} }想要交互式体验三种模式的完整流程可以启动内置 Playground 页面server.py 提供的 Web 界面示例数据见 playground.htmluv run --project source python -m autojev.server多模态提示predict支持传入图片例如model.predict(Look at the supplied image., question, images[screenshot.png])即可对截图做颜色、物体等视觉判断。八、新手常见疑问FAQ1. 三种模式可以混合使用吗可以。API 层一次请求可携带多个问题见 server.py 的questions字典每个问题独立选择 type互不干扰。2. 返回的概率可信吗可信。推理时统一使用训练中校准的 temperature本版本约 2.21记录在 decision_config.json因此probabilities、noul、confidence都是可直接用于决策阈值的校准值。3. choice 的选项最多能写多少本地推理最多 255 个选项MAX_OPTIONS见 model.py官方 API 服务对 score 等级则限制为 2~10 个。4. 支持图片输入吗支持。三种模式都可以附带最多 4 张图片PNG/JPEG/WebPstate 里写一句引导语即可例如Use the attached image to answer.。5. state 里放恶意内容会怎样模型系统提示明确要求把 state 当作数据而非指令见 model.py可有效降低提示注入风险但生产环境仍建议自行做输入过滤。总结pplx-decider 把AI 做判断这件事收敛成了三种模式choice 管分类、noul 管二分类、score 管打分。理解type instructions criteria这个最小问题结构你就能把工单路由、舆情分类、紧急度评估等场景快速跑起来。建议先按本文第二节把模型跑通再用第六节的对比表为每个业务问题挑选合适模式最后参考第七节的实战示例接入自己的数据。赞分享【免费下载链接】pplx-decider-v1-27b项目地址https://ai.gitcode.com/hf_mirrors/perplexity-ai/pplx-decider-v1-27b点击查看免费下载相关推荐noul / score / choice 到底选哪个GEV 三种决策类型的选型对照noul / score / choice 到底选哪个GEV 三种决策类型的选型对照 接触过 GEV 26B Decide 的人大概都有过同一个困惑接口只多人工智能大模型微调choice/score/noul 三连Julia-1 决策类型从零到实战的全套教程choice/score/noul 三连Julia 1 决策类型从零到实战的全套教程 把路由这件事做对通常不需要一个能写诗的大模型。Supersonic玩转Laya的3种决策原语choice、score、noul完整使用指南玩转Laya的3种决策原语choice、score、noul完整使用指南 Laya 是一个多语言、非自回归的 System 1 决策引擎 把问题定义成 3人工智能NLP强化学习上一篇Windows Cleaner彻底拯救C盘爆红的终极清理专家下一篇Windows Cleaner免费教程简单三步告别C盘爆红彻底解决电脑卡顿问题创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考