1. 这场"同日降价"到底发生了什么先把时间线捋清楚。某天早上,两家头部模型厂商几乎在同一时间窗口宣布了旗下旗舰模型的价格调整:一边是 Claude Opus 5.5,另一边是 GPT-6 的 Sol 和 Luna 两个版本。注意,这不是那种"新用户首月五折"的营销噱头,而是直接砍 API 调用单价,属于真金白银的降价。我做模型选型和成本核算这块有些年头了,见过太多次"降价"最后变成"换个计费口径"的操作。但这次不一样,两家的调整都落在了最核心的输入/输出 token 单价上,而且幅度不小。圈子里当天就炸了,各种群里都在转价格对比表。这件事的本质是什么?是大模型 API 市场从"能力竞赛"正式切换到"成本竞赛"。过去两年大家比的是谁的 benchmark 高、谁的上下文长、谁的多模态强;现在能力差距被压缩到一定程度后,价格成了决定开发者用谁的关键变量。你想想,同样一个任务,两个模型效果差 5%,但价格差 40%,你会怎么选?大部分生产环境会毫不犹豫选便宜的。这篇文章我想聊的不是"谁更便宜"这种一句话结论,而是作为一个真正要控制成本、要跑生产负载的开发者,你应该怎么理解这次降价、怎么重新做选型、怎么把省下来的钱真正落到账单上。适合正在用或准备用这两家 API 的工程师、做 AI 产品的技术负责人,以及任何对模型成本敏感的人。2. 为什么偏偏是"同日"降价2.1 价格战从来不是巧合两家在同一天降价,你要真信是巧合那就太天真了。这背后是典型的博弈论里的"跟随策略":谁先降谁吃亏(利润直接掉),但谁不降谁丢份额。所以最优解往往是——盯住对手,同步出手,把降价做成"行业事件"而不是"单方面让利"。我个人的判断是,这次降价的触发点有两个。第一是推理成本本身在下降。新一代推理芯片的吞吐上来了,加上各家在 KV Cache、投机解码、量化推理上的工程优化成熟,单位 token 的边际成本确实降了。成本降了,价格才有下探空间,否则就是纯烧钱。第二是开源模型的挤压。一批开源权重模型在中等难度任务上已经能打,很多团队开始自建推理。闭源 API 如果还维持高价,客户会流失到自建方案。降价本质上是把"自建 vs 调用"的临界点往回调。2.2 降价的三种"姿势"你要分清不是所有降价都一样,我把它分成三类,你对照着看这次属于哪种:降价类型表现形式对你的实际影响真降价输入/输出单价直接下调账单立竿见影,最实在结构性降价缓存命中、批量调用打折用对了才省,用不对没感觉门槛降价免费额度、低价小模型适合试水,不适合主力负载这次两家主要动的是第一类和第二类。真降价是普惠的,结构性降价是"会用的省更多"。很多人只看到单价数字,忽略了缓存和批处理这些杠杆,结果实际省下来的钱远低于预期。后面我会专门讲怎么把这些杠杆拉满。2.3 对开发者的真实意义说点实在的。如果你现在每个月 API 账单是几千块,这次降价可能让你省几百到一千多。但如果你跑的是大规模生产负载,比如每天几百万次调用,那这次降价可能是每月省下一台服务器的钱甚至更多。更重要的不是省多少钱,而是它改变了你的架构决策空间。以前因为贵,你可能被迫用更小的模型、更短的上下文、更激进的截断策略,牺牲了效果。现在成本下来了,你可以重新考虑:是不是该上更大的模型?是不是该把上下文放长一点?是不是该把之前因为成本砍掉的功能加回来?这才是降价真正的价值——它松开了你身上的成本枷锁。3. 两个模型到底怎么选:一张决策表3.1 先看硬指标对比我不喜欢空谈"谁更强",直接上对比维度。以下是我基于公开信息和实测经验整理的框架,具体数字以你实际拿到的报价为准:维度Claude Opus 5.5GPT-6 SolGPT-6 Luna定位旗舰全能高性能主力高性价比轻量长上下文强强中等复杂推理强强一般指令遵循强强中等单价档位中高中低适合场景复杂分析、长文档通用生产负载高并发简单任务这张表的关键信息是:GPT-6 拆成了 Sol 和 Luna 两档,这本身就是一种价格战打法。用 Luna 守住低价区间,用 Sol 打主力,用 Opus 5.5 对标高端。你选型时不要只盯着"哪个最强",而要问"我这个任务需要多强"。3.2 按任务难度分层选型我的经验是,别用一个模型打天下。正确的做法是按任务难度分层:简单任务(分类、抽取、格式化、简单问答):用 Luna 这类轻量模型,成本能压到最低。这类任务占你总调用量的 60% 以上,是省钱的主战场。中等任务(多轮对话、中等长度总结、代码补全):用 Sol 或 Opus 5.5 的中档配置。复杂任务(长文档深度分析、复杂推理、多步骤 Agent):用 Opus 5.5 或 Sol 的高配,这时候别省,效果优先。我见过太多团队犯一个错:所有请求都打给最贵的模型。结果 80% 的简单请求花了 80% 的钱,纯浪费。分层之后,同样的业务量,账单能砍掉一半以上。3.3 一个真实的成本测算例子假设你每天有 100 万次调用,平均每次输入 800 token、输出 300 token。我按降价前后的相对比例算一笔账(具体单价用你手上的报价替换):全部用旗舰模型:输入 8 亿 token + 输出 3 亿 token分层后:60% 走轻量、30% 走中档、10% 走旗舰粗算下来,分层方案的总成本通常只有"全旗舰"方案的35% 到 50%。再叠加这次降价,实际支出可能只有原来的三成。这个数字对任何有规模的业务都是质变。提示:分层选型的前提是你得先给请求打标签。最简单的做法是在入口处用一个轻量分类器(甚至规则)判断任务难度,再路由到对应模型。这个分类器本身也可以用 Luna 这种便宜模型来做,成本几乎可以忽略。4. 把降价红利吃干榨净的实操技巧4.1 缓存命中:最容易被忽视的省钱杠杆Prompt Caching 这个东西,很多人知道但没用起来。原理很简单:如果你的请求前缀(比如系统提示词、固定的 few-shot 示例、长文档)是重复的,缓存命中部分的价格通常只有正常输入价的零头。实操上你要做的是:把稳定不变的内容放在 prompt 最前面,把每次都变的内容放在最后。因为缓存是按前缀匹配的,前缀越稳定,命中率越高。我见过有人把用户 ID、时间戳放在最前面,结果缓存永远命中不了,白白多花钱。具体做法:系统提示词、角色设定、固定示例 → 放最前,尽量不改长文档、知识库内容 → 放中间,同一文档多次提问时能命中用户当前问题、动态参数 → 放最后这样改一遍,缓存命中率能从个位数拉到 60% 以上,输入成本直接砍一大截。4.2 批处理:能等的任务就别实时跑很多任务其实不需要实时返回。比如离线数据标注、批量内容生成、日志分析。这类任务走 Batch API,价格通常有额外折扣,而且这次降价后折扣叠加,省得更多。判断标准很简单:用户是否在等这个结果。用户在等 → 实时;用户不在等 → 批处理。我一般会把所有非交互式任务都挪到批处理队列,晚上跑,成本能再降一档。4.3 输出长度控制:输出比输入贵这是个反直觉但极其重要的点:大多数模型的输出 token 单价比输入贵 3 到 5 倍。所以控制输出长度比控制输入更省钱。实操技巧:在 prompt 里明确要求"简洁回答""只输出结果不要解释"用结构化输出(JSON schema)约束模型,避免它啰嗦设置 max_tokens 上限,防止模型跑飞对总结类任务,直接指定字数范围我做过对比,同样一个抽取任务,加了"只输出 JSON,不要任何额外文字"之后,输出 token 少了 70%,成本立竿见影。4.4 重试与失败的成本这个坑很多人踩过:模型调用失败重试,是要重复计费的。如果你的重试逻辑写得糙,一次失败重试三次,成本直接翻三倍。我的做法是:对可重试错误(限流、超时)设置指数退避,别无脑重试对不可重试错误(参数错误、内容违规)直接放弃,别浪费钱记录失败率,失败率高的 prompt 要优化,而不是靠重试硬扛5. 常见问题与排查实录5.1 为什么我降价后账单没怎么变这是问得最多的问题。原因通常有三个:第一,你没用缓存。如果你的 prompt 前缀每次都变,缓存命中率接近零,那降价只作用在没缓存的那部分,感觉不明显。第二,你的输出太长。输出单价高,如果模型每次都长篇大论,输出成本占比很高,输入降价对你影响有限。第三,你的调用量结构没优化。如果所有请求都打给旗舰模型,降价只是让贵的稍微便宜点,没有结构性改变。排查顺序:先看账单里输入/输出占比,再看缓存命中率,最后看模型分布。这三个数据一拉出来,问题基本就定位了。5.2 降价后该不该换模型别急着换。降价不等于要迁移。迁移模型是有成本的:prompt 要重调、输出格式可能变、效果要重新评估、线上要灰度。如果两个模型效果差不多,价格也差不多,那就别折腾。什么时候值得换?我列个判断标准:情况是否值得迁移新模型便宜 30% 以上且效果持平值得新模型便宜但效果明显下降不值得只是便宜 10% 以内不值得折腾你有大量简单任务可以下沉到轻量模型值得5.3 效果波动怎么排查换了模型或改了 prompt 之后效果波动,排查思路:固定一组测试用例,跑回归对比看是整体下降还是特定类型任务下降检查是不是输出格式变了导致下游解析失败检查 temperature、max_tokens 等参数是否一致我一般会维护一个 50 到 100 条的"黄金测试集",任何模型或 prompt 变更都先跑一遍,通过了再上灰度。这个习惯帮我避免过好几次线上事故。5.4 限流和配额问题降价之后调用量往往会涨(因为便宜了大家就多用),这时候容易撞限流。提前做两件事:一是申请更高的配额,二是做好限流降级——撞限流时自动切到备用模型或排队,别让请求直接失败。6. 我踩过的坑和几条实在建议说几个我自己踩过的坑,都是真金白银换来的。坑一:以为降价就是省钱。早期我看到降价就高兴,结果账单没降反升——因为便宜了,团队就放开了用,调用量涨得比单价降得快。降价会刺激用量,你要同步做用量治理,否则省的钱全被增量吃掉。坑二:缓存配置写反了。我把动态内容放前面,稳定内容放后面,缓存命中率一直是零,还纳闷为什么没效果。后来把顺序调过来,命中率直接上去了。这个细节文档里往往一笔带过,但影响巨大。坑三:忽略输出成本。有段时间我优化输入优化得很起劲,结果输出占了总成本的一大半。后来加了输出约束,成本才真正下来。坑四:没做模型分层。所有请求打给旗舰模型,简单任务也走最贵的路。分层之后,同样的业务,成本降了一半多。几条实在建议:先测量再优化。别凭感觉,把账单拆开看输入、输出、缓存、模型分布,找到大头再动手。建立成本监控。按天、按业务线看成本趋势,异常及时报警。我见过有人被一个死循环的 Agent 一夜烧掉不少钱。把成本当成产品指标。每次功能迭代都评估成本影响,别等功能上线了才发现跑不起。别为了省钱牺牲核心体验。该用旗舰的地方就用,省钱的目的是把钱花在刀刃上,不是把刀刃也省了。这次两家同日降价,对整个行业是好事。它逼着所有人重新审视自己的成本结构,也给了中小团队更多用得起好模型的机会。但红利不会自动落到你口袋里,得靠一套系统的成本优化方法去接。我上面讲的缓存、批处理、输出控制、模型分层这几招,你哪怕只落地两招,账单都会有明显变化。
1. 这场"同日降价"到底发生了什么先把时间线捋清楚。某天早上,两家头部模型厂商几乎在同一时间窗口宣布了旗下旗舰模型的价格调整:一边是 Claude Opus 5.5,另一边是 GPT-6 的 Sol 和 Luna 两个版本。注意,这不是那种"新用户首月五折"的营销噱头,而是直接砍 API 调用单价,属于真金白银的降价。我做模型选型和成本核算这块有些年头了,见过太多次"降价"最后变成"换个计费口径"的操作。但这次不一样,两家的调整都落在了最核心的输入/输出 token 单价上,而且幅度不小。圈子里当天就炸了,各种群里都在转价格对比表。这件事的本质是什么?是大模型 API 市场从"能力竞赛"正式切换到"成本竞赛"。过去两年大家比的是谁的 benchmark 高、谁的上下文长、谁的多模态强;现在能力差距被压缩到一定程度后,价格成了决定开发者用谁的关键变量。你想想,同样一个任务,两个模型效果差 5%,但价格差 40%,你会怎么选?大部分生产环境会毫不犹豫选便宜的。这篇文章我想聊的不是"谁更便宜"这种一句话结论,而是作为一个真正要控制成本、要跑生产负载的开发者,你应该怎么理解这次降价、怎么重新做选型、怎么把省下来的钱真正落到账单上。适合正在用或准备用这两家 API 的工程师、做 AI 产品的技术负责人,以及任何对模型成本敏感的人。2. 为什么偏偏是"同日"降价2.1 价格战从来不是巧合两家在同一天降价,你要真信是巧合那就太天真了。这背后是典型的博弈论里的"跟随策略":谁先降谁吃亏(利润直接掉),但谁不降谁丢份额。所以最优解往往是——盯住对手,同步出手,把降价做成"行业事件"而不是"单方面让利"。我个人的判断是,这次降价的触发点有两个。第一是推理成本本身在下降。新一代推理芯片的吞吐上来了,加上各家在 KV Cache、投机解码、量化推理上的工程优化成熟,单位 token 的边际成本确实降了。成本降了,价格才有下探空间,否则就是纯烧钱。第二是开源模型的挤压。一批开源权重模型在中等难度任务上已经能打,很多团队开始自建推理。闭源 API 如果还维持高价,客户会流失到自建方案。降价本质上是把"自建 vs 调用"的临界点往回调。2.2 降价的三种"姿势"你要分清不是所有降价都一样,我把它分成三类,你对照着看这次属于哪种:降价类型表现形式对你的实际影响真降价输入/输出单价直接下调账单立竿见影,最实在结构性降价缓存命中、批量调用打折用对了才省,用不对没感觉门槛降价免费额度、低价小模型适合试水,不适合主力负载这次两家主要动的是第一类和第二类。真降价是普惠的,结构性降价是"会用的省更多"。很多人只看到单价数字,忽略了缓存和批处理这些杠杆,结果实际省下来的钱远低于预期。后面我会专门讲怎么把这些杠杆拉满。2.3 对开发者的真实意义说点实在的。如果你现在每个月 API 账单是几千块,这次降价可能让你省几百到一千多。但如果你跑的是大规模生产负载,比如每天几百万次调用,那这次降价可能是每月省下一台服务器的钱甚至更多。更重要的不是省多少钱,而是它改变了你的架构决策空间。以前因为贵,你可能被迫用更小的模型、更短的上下文、更激进的截断策略,牺牲了效果。现在成本下来了,你可以重新考虑:是不是该上更大的模型?是不是该把上下文放长一点?是不是该把之前因为成本砍掉的功能加回来?这才是降价真正的价值——它松开了你身上的成本枷锁。3. 两个模型到底怎么选:一张决策表3.1 先看硬指标对比我不喜欢空谈"谁更强",直接上对比维度。以下是我基于公开信息和实测经验整理的框架,具体数字以你实际拿到的报价为准:维度Claude Opus 5.5GPT-6 SolGPT-6 Luna定位旗舰全能高性能主力高性价比轻量长上下文强强中等复杂推理强强一般指令遵循强强中等单价档位中高中低适合场景复杂分析、长文档通用生产负载高并发简单任务这张表的关键信息是:GPT-6 拆成了 Sol 和 Luna 两档,这本身就是一种价格战打法。用 Luna 守住低价区间,用 Sol 打主力,用 Opus 5.5 对标高端。你选型时不要只盯着"哪个最强",而要问"我这个任务需要多强"。3.2 按任务难度分层选型我的经验是,别用一个模型打天下。正确的做法是按任务难度分层:简单任务(分类、抽取、格式化、简单问答):用 Luna 这类轻量模型,成本能压到最低。这类任务占你总调用量的 60% 以上,是省钱的主战场。中等任务(多轮对话、中等长度总结、代码补全):用 Sol 或 Opus 5.5 的中档配置。复杂任务(长文档深度分析、复杂推理、多步骤 Agent):用 Opus 5.5 或 Sol 的高配,这时候别省,效果优先。我见过太多团队犯一个错:所有请求都打给最贵的模型。结果 80% 的简单请求花了 80% 的钱,纯浪费。分层之后,同样的业务量,账单能砍掉一半以上。3.3 一个真实的成本测算例子假设你每天有 100 万次调用,平均每次输入 800 token、输出 300 token。我按降价前后的相对比例算一笔账(具体单价用你手上的报价替换):全部用旗舰模型:输入 8 亿 token + 输出 3 亿 token分层后:60% 走轻量、30% 走中档、10% 走旗舰粗算下来,分层方案的总成本通常只有"全旗舰"方案的35% 到 50%。再叠加这次降价,实际支出可能只有原来的三成。这个数字对任何有规模的业务都是质变。提示:分层选型的前提是你得先给请求打标签。最简单的做法是在入口处用一个轻量分类器(甚至规则)判断任务难度,再路由到对应模型。这个分类器本身也可以用 Luna 这种便宜模型来做,成本几乎可以忽略。4. 把降价红利吃干榨净的实操技巧4.1 缓存命中:最容易被忽视的省钱杠杆Prompt Caching 这个东西,很多人知道但没用起来。原理很简单:如果你的请求前缀(比如系统提示词、固定的 few-shot 示例、长文档)是重复的,缓存命中部分的价格通常只有正常输入价的零头。实操上你要做的是:把稳定不变的内容放在 prompt 最前面,把每次都变的内容放在最后。因为缓存是按前缀匹配的,前缀越稳定,命中率越高。我见过有人把用户 ID、时间戳放在最前面,结果缓存永远命中不了,白白多花钱。具体做法:系统提示词、角色设定、固定示例 → 放最前,尽量不改长文档、知识库内容 → 放中间,同一文档多次提问时能命中用户当前问题、动态参数 → 放最后这样改一遍,缓存命中率能从个位数拉到 60% 以上,输入成本直接砍一大截。4.2 批处理:能等的任务就别实时跑很多任务其实不需要实时返回。比如离线数据标注、批量内容生成、日志分析。这类任务走 Batch API,价格通常有额外折扣,而且这次降价后折扣叠加,省得更多。判断标准很简单:用户是否在等这个结果。用户在等 → 实时;用户不在等 → 批处理。我一般会把所有非交互式任务都挪到批处理队列,晚上跑,成本能再降一档。4.3 输出长度控制:输出比输入贵这是个反直觉但极其重要的点:大多数模型的输出 token 单价比输入贵 3 到 5 倍。所以控制输出长度比控制输入更省钱。实操技巧:在 prompt 里明确要求"简洁回答""只输出结果不要解释"用结构化输出(JSON schema)约束模型,避免它啰嗦设置 max_tokens 上限,防止模型跑飞对总结类任务,直接指定字数范围我做过对比,同样一个抽取任务,加了"只输出 JSON,不要任何额外文字"之后,输出 token 少了 70%,成本立竿见影。4.4 重试与失败的成本这个坑很多人踩过:模型调用失败重试,是要重复计费的。如果你的重试逻辑写得糙,一次失败重试三次,成本直接翻三倍。我的做法是:对可重试错误(限流、超时)设置指数退避,别无脑重试对不可重试错误(参数错误、内容违规)直接放弃,别浪费钱记录失败率,失败率高的 prompt 要优化,而不是靠重试硬扛5. 常见问题与排查实录5.1 为什么我降价后账单没怎么变这是问得最多的问题。原因通常有三个:第一,你没用缓存。如果你的 prompt 前缀每次都变,缓存命中率接近零,那降价只作用在没缓存的那部分,感觉不明显。第二,你的输出太长。输出单价高,如果模型每次都长篇大论,输出成本占比很高,输入降价对你影响有限。第三,你的调用量结构没优化。如果所有请求都打给旗舰模型,降价只是让贵的稍微便宜点,没有结构性改变。排查顺序:先看账单里输入/输出占比,再看缓存命中率,最后看模型分布。这三个数据一拉出来,问题基本就定位了。5.2 降价后该不该换模型别急着换。降价不等于要迁移。迁移模型是有成本的:prompt 要重调、输出格式可能变、效果要重新评估、线上要灰度。如果两个模型效果差不多,价格也差不多,那就别折腾。什么时候值得换?我列个判断标准:情况是否值得迁移新模型便宜 30% 以上且效果持平值得新模型便宜但效果明显下降不值得只是便宜 10% 以内不值得折腾你有大量简单任务可以下沉到轻量模型值得5.3 效果波动怎么排查换了模型或改了 prompt 之后效果波动,排查思路:固定一组测试用例,跑回归对比看是整体下降还是特定类型任务下降检查是不是输出格式变了导致下游解析失败检查 temperature、max_tokens 等参数是否一致我一般会维护一个 50 到 100 条的"黄金测试集",任何模型或 prompt 变更都先跑一遍,通过了再上灰度。这个习惯帮我避免过好几次线上事故。5.4 限流和配额问题降价之后调用量往往会涨(因为便宜了大家就多用),这时候容易撞限流。提前做两件事:一是申请更高的配额,二是做好限流降级——撞限流时自动切到备用模型或排队,别让请求直接失败。6. 我踩过的坑和几条实在建议说几个我自己踩过的坑,都是真金白银换来的。坑一:以为降价就是省钱。早期我看到降价就高兴,结果账单没降反升——因为便宜了,团队就放开了用,调用量涨得比单价降得快。降价会刺激用量,你要同步做用量治理,否则省的钱全被增量吃掉。坑二:缓存配置写反了。我把动态内容放前面,稳定内容放后面,缓存命中率一直是零,还纳闷为什么没效果。后来把顺序调过来,命中率直接上去了。这个细节文档里往往一笔带过,但影响巨大。坑三:忽略输出成本。有段时间我优化输入优化得很起劲,结果输出占了总成本的一大半。后来加了输出约束,成本才真正下来。坑四:没做模型分层。所有请求打给旗舰模型,简单任务也走最贵的路。分层之后,同样的业务,成本降了一半多。几条实在建议:先测量再优化。别凭感觉,把账单拆开看输入、输出、缓存、模型分布,找到大头再动手。建立成本监控。按天、按业务线看成本趋势,异常及时报警。我见过有人被一个死循环的 Agent 一夜烧掉不少钱。把成本当成产品指标。每次功能迭代都评估成本影响,别等功能上线了才发现跑不起。别为了省钱牺牲核心体验。该用旗舰的地方就用,省钱的目的是把钱花在刀刃上,不是把刀刃也省了。这次两家同日降价,对整个行业是好事。它逼着所有人重新审视自己的成本结构,也给了中小团队更多用得起好模型的机会。但红利不会自动落到你口袋里,得靠一套系统的成本优化方法去接。我上面讲的缓存、批处理、输出控制、模型分层这几招,你哪怕只落地两招,账单都会有明显变化。