决策成本暴降 400 倍不写文章的模型正在重写 AI 的性价比公式【免费下载链接】openjev项目地址: https://ai.gitcode.com/hf_mirrors/AlexWortega/openjev过去一个月技术社区被一个不写文章的模型刷了屏。TypeSafe AI 推出的 Jev由前 OpenAI 研究员、InstructGPT 论文主要作者 Diogo Almeida 主导公司刚走出隐身状态就拿下 DCVC 领投的 4000 万美元种子轮估值约 2 亿美元。它不生成文本、不写代码、不聊天只做一件事把非结构化状态喂进去从你预设的选项里给出一个带置信度的概率判断。官方定价是输入每百万 Token 0.042 美元、输出永久免费同等智能下比前沿模型快 40 到 200 倍、便宜两个数量级。紧随其后OpenAI 推出 Decisions API 正面竞争Cloudflare 也拿出了自己的决策模型 Clef——一个生态位在被巨头同时押注。但真正值得深挖的不是又一个爆款而是它背后的成本结构革命当模型不再为写文章付费AI 的性价比公式就被重写了。本文以开源决策模型 openjevQwen3.5 训练成的 jev 模型为样本把400 倍这笔账一笔笔算清楚。400 倍的成本差账是怎么算出来的先看官方价目表。Jev 的输入定价为每百万 Token 0.042 美元约为 GPT 系列输入价格的百分之一输出 Token 官方直接标注免费便宜到不值得计量。端到端调用延迟 70 到 500 毫秒——这不是营销话术而是架构选择的结果它不逐 Token 自回归生成而是并行采样、一次输出全部概率。把这套价格代入一道简单的算术题。社区公开的一个退款判断案例中一次典型决策请求约 573 个输入 TokenJev 路径573 × 0.042 / 1,000,000 ≈0.000024 美元输出 0 Token生成式路径同样一次判断主流大模型 API 输入约 600 Token约 0.002 美元 输出 200 Token 的推理与结论约 0.003 美元合计约0.005 美元。单次调用即差出约 200 倍。而在 Agent 场景下差距进一步放大传统浏览器 Agent 每步都要截图、让视觉模型生成文本描述、再解析出动作指令一个搜航班任务循环七八步Jev 路径全程不截图、不生成用轻量 JavaScript 把页面可交互元素抽成结构化表格直接交给模型选择。社区实测的 Google Flights 航班搜索8 次表单操作、总耗时 7.1 秒、全程花费 0.0039 美元。另一个开发者用 Jev 跑《地铁跑酷》动作控制整场游戏成本低于 1 美分。把单次调用的 200 倍与 Agent 循环次数压缩叠加暴降 400 倍就是这个数量级的直观表达——它与官方便宜两个数量级的说法互相印证只是把账算到了具体场景里。这笔账的根源不在谈判技巧而在成本结构本身见下文。从 Token 计费到决策计费成本结构在迁移过去两年所有任务都被抽象成预测下一个 Token于是计费也按 Token 走——哪怕你只需要一个是/否也必须为模型写出来的那一大段文字买单。Token 计费本质上是为生成能力付费而大量业务场景分类、路由、评分、审核、判定根本不需要生成。决策模型把这个错配拆开了计费单元从产出多少字变成做一次判断成本随之下沉两个数量级。这种迁移在 openjev 的代码里看得清清楚楚。code/openjev_decide.py 是它的类型化决策入口状态state作为前提每个选项被构造成一条假设逐条送入一个三路 NLI 交叉编码器contradiction / entailment / neutral对每条假设做一次前向传播取 entailment 概率在各选项间归一化from openjev_decide import OpenJev jev OpenJev.from_pretrained(AlexWortega/openjev, subfolderqwen3.5-4b-nli-v5, devicecuda) jev.decide(Policy: refunds require a receipt and purchase within 30 days. The customer bought 12 days ago but has no receipt., [{type: noul, instructions: Under the stated policy, is a refund permitted?, options: [no, yes]}]) # - [{noul: 0.07}] — the probability of yes几个结构性特征值得展开。第一输出侧彻底归零。一次决策没有生成任何 Token分布就是模型自己的 softmax。这在服务端代码里是硬编码的事实——code/serving/decisions_server.py 实现了兼容 OpenRouter Decisions API 的网关返回体里的 usage 字段写着output_tokens: 0成本只有一行公式cost input_tokens × PRICE_PER_MTOK / 1e6。换句话说决策计费在工程上已经落地为一种可配置的计价模式本地部署者甚至可以把单价设成 0。第二输入侧被精打细算。多选项决策共享同一段状态文本modeling_openjev.py 中的predict_hypotheses/rerank会先计算公共 token 前缀一次再把各选项的续写合并进同一个 batch记忆开销与选项数量成正比、而不是与生成轮数成正比。超长状态则按窗口切分、逐窗打分后取最大值绝不静默截断。第三确定性成了免费附赠品。不做自回归生成意味着同样的输入永远得到同样的输出。code/order_test.py 对 JevBench 全部 231 个公开题目、每题问四遍原序、重跑、逆序、乱序的结果标签翻转 0/231重复请求逐位相同选项乱序最大概率变化仅 1.2e-7。选项顺序不影响答案这在生成式模型里几乎不可能保证。第四可信度被当作一等公民也被当作红线。网关把概率方法声明为normalized_entailment_v1并明确未在基准数据上拟合温度、校准必须自行测量——8 个公开图像示例上 ECE 为 0.111。社区那句格式对答案照样错的讨论在 openjev 的仓库里有对等的实测回应它没有针对提示注入加固一行系统管理员覆盖就能把 150 个 JevBench 题目的准确率从 0.833 打到 0.467作为 shell 命令安全审查器它也只抓到 37% 的应拒绝命令code/eval_security.py。仓库把这些弱点与数据一起公开而不是藏起来。第五部署侧成本同步压缩。code/bench_sglang.py 的对照显示同样的 checkpoint 用 SGLang 服务化后吞吐是 transformers 的 1.5 到 3 倍MNLI 上 321 vs 152 pairs/s。NVFP4 量化版本qwen3.5-4b-nli-v5-nvfp4/README.md把 4B 模型从 9.1GB 压到 3.95GB实测吞吐从 bf16 的 36k tok/s 提到 64k tok/s4k token 请求的 p50 延迟从 119ms 降到 67ms——单卡决策服务的单位成本又被砍掉一大截。对中小团队与本地部署玩家的实际意义Jev 是闭源 API但它的范式已经开源化。openjev 直接把 Qwen3.50.8B / 2B / 4B / 35B-A3B MoE训练成 jev 模型权重与代码全部公开。在 JevBench v1.2 的 231 个公开题目上官方 harness 原样运行适配器就是 code/eval_jevbench.py4B v5 拿到 0.814easy 全对、standard 0.986、hard 层 0.622——同题下 Jev 1.13 为 0.866开源替代里另一条路线 SemIf同为 Qwen3.5-4B为 0.810。一个 4B 开源模型把差距压到 5 个点以内这就是头条那篇8B 开源黑马几乎逆袭 Jev横评的底气来源。对中小团队这套东西意味着三类成本同时消失API 账单消失本地部署后决策成本收敛为电费与显卡折旧。V100 这种上一代卡也能跑 FP16 服务见 code/serving/V100.md 的完整运行时准备黑石级 NVFP4 则把单卡吞吐推到 6 万 token/秒迁移成本消失code/serving/decisions_server.py 直接兼容 OpenRouter Decisions API 的请求/响应结构现有接入 Jev 风格网关的应用改一个 base URL 就能切到本地试错成本消失不只是能跑而是可复现。训练混合配方code/data_mix.py、训练脚本code/train.py、全部评测与安全性测试都在仓库里v5 还明确列出每个训练数据切分qwen3.5-4b-nli-v5/panel_manifest.json甚至坦白 MMLU、ARC、GSM8K 的 test 切分进了训练集、这些基准上的数字不作数——这种污染声明本身就是开源生态该有的水位。但不写文章的模型也有明确的边界决策者需要把它当成一种判断原语而非万能钥匙。它的能力圈是给定封闭选项集的选择重排候选答案、对照基准打分、幻觉检测HaluBench AUROC 0.937、FalseQA 0.949、内容护栏、以及把游戏状态和若干陈述句交给它、让 argmax entailment 成为动作——零样本驱动 Doom 单局 10.4 杀、Minecraft 里 22 次决策合成一把铁镐README.md。它不能写报告、不能解释推理、不能被当作唯一的安全防线且置信度校准必须按自家数据重新测量。最佳实践是社区反复验证过的混合架构大模型负责开放理解决策模型负责高频判断Jev 决策 LLM 表达。Jev 的名字取自经济学家 William Stanley Jevons——他提出过著名的悖论蒸汽机效率提升后煤炭消耗量不降反升因为更便宜的效率解锁了更多使用场景。TypeSafe 团队相信智能成本每下降一个数量级就会解锁更多数量级的用例而 400 倍的成本坍塌正在让这个循环重新启动当一次 AI 判断从几分钱降到万分之一美元、从几秒降到几十毫秒开发者会本能地把 AI 塞进过去想都不敢想的地方——每 50 毫秒一次的驾驶决策、50 场同时进行的游戏、实时股票交易、真机机械臂的动作循环。性价比公式一旦被改写用量曲线就会自己起飞。【免费下载链接】openjev项目地址: https://ai.gitcode.com/hf_mirrors/AlexWortega/openjev创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考