GPU 调度栈开源与框架层精炼:AI 基础设施的两个新落点|2026年10月20日

AI 基础设施的改动今天集中落在两处:一是调度,NVIDIA 把完整的 Run:ai 平台以 Apache 2.0 协议开源,GPU 调度、配额与工作负载管理可以自托管;二是框架,Google 开源 Harness²,把智能体的改进对象从模型权重移到 8 个可编辑的框架文件。两件事的共同前提是模型本身不动,收益来自工程侧的可配置性。对开发者而言,这意味着可优化的对象变多,需要读的配置文件也变多。

Run:ai 全量开源:GPU 调度栈拆成四个可独立采用的模块

据 MarkTechPost,NVIDIA 已将完整的 NVIDIA Run:ai 平台作为开源软件发布,源代码以 Apache 2.0 协议在 GitHub 上线,生产级 GPU 调度、配额与工作负载管理交到开发者手中,该版本同时使 Run:ai 成为 NVIDIA DSX AI Factory 平台的组成部分。平台团队因此可以检查、分叉并自托管整套技术栈,无需购买付费订阅[① MarkTechPost]。

拆分为 4 个可独立采用的模块:KAI Scheduler 是 Kubernetes 原生调度引擎,采用 Apache 2.0 协议并属 CNCF 沙箱项目,覆盖成组调度、基于时间的公平份额、拓扑感知、装箱与 DRA 支持;GPU Fractioning Operator 把 CUDA 13.4 原生 GPU 分片引入 Kubernetes,由 CUDA 驱动对每个工作负载强制执行硬性内存上限,NVIDIA 已退役其较早的专有分片方案[① MarkTechPost]。控制平面与集群服务构成另外两块:前者负责工作负载提交、资源管理与监控,后者部署在每个 Kubernetes 集群上并增加 GPU 感知调度。

交付形态是单仓库,包含控制平面、集群服务、安装器、命令行工具与 MCP 服务器,本地开发构建约 50 个 Go 服务;可运行在搭载 NVIDIA GPU 的 Kubernetes 或 OpenShift 集群上,本地开发可在 macOS 或 Linux 上以 8 块模拟 Tesla-A10 GPU 运行,无需真实 GPU[① MarkTechPost]。下面的伪代码仅按公开摘要梳理模块职责,不含任何实际接口名。

# 以下为根据公开摘要信息对Run:ai 模块划分的理解示意 # 具体实现请查阅NVIDIA官方技术文档 控制平面: 接收工作负载提交请求 维护资源配额与占用视图 汇总各集群上报的监控数据 集群服务(每个Kubernetes集群部署一份): 接收控制平面下发的工作负载 由KAI调度器按成组调度/时间公平份额/拓扑感知/装箱/DRA做出放置决策 由GPU分片算子在驱动层为每个工作负载设置硬性内存上限 访问入口: 网页界面 / 命令行 / REST接口 / 面向AI助手的MCP服务器

⚠️ 以上伪代码为根据公开信息对该技术逻辑的初步理解示意,具体实现请以官方文档为准。

边界同样要读清楚:NVIDIA 未公布该版本的平台级基准测试;相关 Model Streamer 在 Azure 的 8 台 NVIDIA H100 虚拟机上将模型加载速度提升 3 至 6 倍,但这是相邻组件的数据而非平台成绩;社区版不提供 NVIDIA 企业级支持,Linux 本地构建需要 16 GB 内存与 100 GB 磁盘空间[① MarkTechPost]。开源换来的可见性,同时把运维责任完整转移给使用方。

Harness²:把改进对象从权重移到框架层文件

据 MarkTechPost,Google Cloud AI Research 开源的 Harness² 是一个在部署阶段精炼智能体框架层的递归增强框架,本身不含模型参数,可训练参数为 0,提供 8 个可编辑组件,版本号 0.1.0;运行环境为装有 Python 3.12 或 3.13 与 uv 的 Linux,模型调用通过 Vertex AI 完成,GPU 要求未披露[① MarkTechPost]。

8 个组件以文件形式挂载,分别是系统提示词、护栏、记忆、工具指引、子智能体、技能、脚本与插件(中间件),覆盖上下文构建、工具接口、任务分派以及工具循环内的行为;其文件划分在此前智能体框架工程工作的 7 文件切分基础上增加 1 个组件。框架运行两个相互关联的递归层级,任务级递归采用对比式的提议、探查与组合步骤:智能体先用基础框架运行一次任务,随后由编辑器提出 2 个候选方案,其中不变候选针对规划等通用智能体失败模式[① MarkTechPost]。

量化结果如下:仅 1 次精炼步骤即在全部 3 个基准上改善了全部 4 组模型与框架组合,最佳情形为 OpenCode 下的 GLM-5 在 WorkBuddy-Bench 上从 64.2 升至 75.7,提升 11.5 分;最弱情形为 Codex 下的 GLM-5 在 JobBench 上从 23.6 升至 24.8,仅提升 1.2 分[① MarkTechPost]。该框架面向开放世界:任务在未见过的情形下到达,且没有校验器判断答案是否正确;研究团队据此指出,多数自我改进方法依赖标签或测试用例,而该框架设计为在缺少二者时仍可运作。

数据层:零训练表格预测与多模态数据平台

据 MarkTechPost,NVIDIA 的新库结构化数据模型把面向表格的多个预训练基础模型统一到同一个 PyTorch 接口之下:用于单表的 TabICLv2 与 KumoTabular,以及用于整个关系型数据库的 KumoRelational。三者均通过上下文学习作答,给定一组带标签的行与需要预测的行,模型在一次前向计算中返回概率或完整的预测分布,全程不进行训练[① MarkTechPost]。

教程的路径值得开发者注意:从该库的类型化表格张量开始,将两个表格模型与经过训练的 scikit-learn 基线作比较,在多次查询间复用已编码的上下文,从回归任务中读取校准后的预测区间,并扩展到二十个类别;最后构建一个三表的小型商店数据库,直接据此预测客户活跃度[① MarkTechPost]。流程示意如下,仅为职责层面的理解,不含实际接口。

# 以下为根据公开摘要信息对NVIDIA结构化数据模型"上下文学习"流程的理解示意 # 具体实现请查阅NVIDIA官方技术文档 输入: 带标签的历史行(特征列 + 目标列) 待预测行(仅特征列) 一次前向: 以全部带标签行作为上下文 为每个待预测行输出概率或完整预测分布 回归任务返回校准后的预测区间 需要留意的配置项: 预处理配方可能丢弃时间戳列与文本列 解释器存在两个已知陷阱 关系型模型有一个决定其是否"诚实"的参数

⚠️ 以上伪代码为根据公开信息对该技术逻辑的初步理解示意,具体实现请以官方文档为准。

不训练并不等于不需要工程判断。该库的价值在于把表格预测从训练流程转为上下文配置,代价是预测质量依赖所给的带标签行;若预处理配方丢掉时间戳与文本列,模型的输入就已经失真[① MarkTechPost]。对数据团队而言,先验证上下文质量,再谈模型选择,是更稳妥的顺序。

多模态数据一侧是同一取向。据 MarkTechPost,Voxel51 3.0 把搜索、数据整理、标注与评估整合到同一系统,面向使用机器人、车辆与工厂传感器数据训练模型的团队,新增 Voxel51 Agent、数据溯源层与免费自助访问。Voxel51 Agent 随附 45 个以上 MCP 工具、80 个以上算子与 18 个开源技能,既可托管在 app.voxel51.com 网页应用运行,也可在云端、混合、本地与物理隔离环境中自托管,未披露本地 GPU 要求[① MarkTechPost]。

三项核心能力分别是:时间序列多模态支持,团队可在同一条时间线上查看多路传感器流,并用分段级嵌入定位长时录制中的具体时刻;统一标注,覆盖二维、三维、视频与多模态数据,包含自动质检、标注员指标与人机协同复核;智能体标注,由视觉语言模型依据自然语言指令与示例生成标签[① MarkTechPost]。支持的模态包括 MCAP、图像、视频、三维点云、网格、DICOM、NIfTI、地理空间数据与音频。

检索侧是持久化混合索引:自动索引数据集并计算嵌入,因此搜索从第一天即可用;语义检索可找到视觉或语义相似的时刻,即使没有共享标签;词法与结构化查询可处理精确词项、时间戳、传感器字段与元数据;嵌入与结构化字段保持原生形态,在检索时合并[① MarkTechPost]。免费档含每月 3 万次推理请求与 30 个计算小时,但上限为 3 个数据集、每个 1 万样本与 20GB 存储;官方未发布产品基准测试,而是引用自身调研数据。

Timestral:2.09 亿参数把时间序列预测搬上 CPU

据 MarkTechPost,Mistral AI 发布首个时间序列基础模型家族 Timestral,含 4 个零样本预测模型,参数量分别为 500 万、2800 万、1.23 亿与 2.09 亿,均为稠密结构,上下文最长 32768 个时间步;最大模型在 GIFT-Eval、TIME 与 fev-bench 三个基准的预训练零样本模型排名中位列第一,推理不需要 GPU,开发者可获得开放权重与推理代码[① MarkTechPost]。

工程参数决定了部署方式:2.09 亿参数权重在 fp32 精度下为 837MB,每个模型对每个时间步输出 21 个分位数,可联合预测多变量目标,并接受仅历史、已知未来与类别型协变量;单次前向最多预测 1024 步,更长跨度则以分块滚动方式把前一分块的中位数回灌为上下文[① MarkTechPost]。架构为因果式分块 Transformer,具备时间注意力与变量注意力,2.09 亿版本使用 24 层、嵌入维度 768,每个分块覆盖 32 个时间步,并包含解耦跨度预测(DHF)。

优势幅度需要按原文尺度理解。Mistral 自报的测试显示,fev-bench 的 SQL 技能得分为 50.39,高于 TimesFM-3 的 48.99;GIFT-Eval 的 MASE 指标为 0.658,仅以 0.003 领先 t0-gamma 的 0.661[① MarkTechPost]。对需要在自有服务器上做预测的团队,权重体积与无需 GPU 这两点比排名更具决策价值;但若场景与这三个基准差异较大,仍应自行验证。

评估权限与资本动作:METR 的员工级访问与 Disney 的招聘

据 Ars Technica 报道,Anthropic 已向外部评估方授予「员工级访问权限」,用于评估其模型风险;非营利机构 METR 曾与 OpenAI、Anthropic、Google 和 Meta 等领先实验室合作,目前已在 Claude 开发方的办公室内派驻团队,可使用其硬件与内部系统[② Ars Technica]。让第三方评估方发挥更大作用,是各实验室为回应外界对更强 AI 系统可能威胁经济、网络安全与人类整体安全的担忧而提出的主要具体举措之一。

资本侧同日也有动作。据 TechCrunch,Disney 已同意聘用 Character.AI 的大部分员工,相关申报文件显示,获得工作机会的员工中「绝大多数」已接受聘用;该交易属于「掩护马」竞价,其他公司仍可能提出更高报价[③ TechCrunch]。这条信息的技术含义有限,但它提示团队与能力的重组可以和模型、框架的更新同时发生。

趋势判断

趋势一:算力管理层从「购买编排」转向「自行运维」。支撑来自 Run:ai 的 4 模块拆分与 Apache 2.0 开源,社区版不提供企业级支持、Linux 本地构建需 16 GB 内存与 100 GB 磁盘空间,说明能力下放的同时责任也下放[① MarkTechPost]。同一方向也出现在 Voxel51 的自托管选项上,其 Agent 可在云端、混合、本地与物理隔离环境中运行,免费档则以数据集数量与存储设限[① MarkTechPost]。

趋势二:改进对象从权重转向配置,收益呈组合依赖。Harness² 的可训练参数为 0,仅 1 次精炼即在 3 个基准上改善 4 组组合,但幅度从 11.5 分到 1.2 分不等[① MarkTechPost];NVIDIA 结构化数据模型同样不改权重,质量取决于上下文提供的带标签行[① MarkTechPost]。两条路径都说明,配置的收益必须按组合实测,无法用单一峰值分数代替。

趋势三:小体量专用模型的部署门槛持续下降。Timestral 以 2.09 亿参数、837MB 权重与无需 GPU 的推理进入标准服务器,Mistral 同时提供开放权重与推理代码[① MarkTechPost];Voxel51 则把智能体能力打包为 45 个以上 MCP 工具与 18 个开源技能,降低团队自建流程的成本[① MarkTechPost]。两者的共同点是把能力做小、做细,再嵌入既有流程。

结尾

今日的技术侧变化可以概括为一句话:可优化的地方变多了,但每一处都需要按组合实测。调度栈可以自托管、框架层可以精炼、表格与传感器数据可以绕开训练、时间序列模型可以跑在 CPU 上,这些选项的共同代价是配置与运维的复杂度上升。

后续值得关注两点:一是自托管调度栈在缺少企业级支持时的稳定性实践,二是「员工级」评估权限的具体边界与结果发布机制。前者决定开源能否进入生产,后者决定外部监督能否持续。

【资讯来源】本文综合整理自 MarkTechPost、Ars Technica、TechCrunch 等公开信息源。 ① MarkTechPost, 2026年10月18日 16:15 北京时间 / 2026年10月18日 01:15 美西时间 ,② Ars Technica, 2026年10月19日 00:25 北京时间 / 10月18日 09:25 美西时间 ,③ TechCrunch, 2026年10月19日 00:30 北京时间 / 10月18日 09:30 美西时间

【免责声明】 本日报为AI行业每日公开信息汇总整理,仅供读者快速了解行业动态,不构成任何投资建议。所有信息均来源于公开渠道,本账号不对其准确性、完整性和时效性作出任何保证。AI行业技术与政策变化迅速,内容发布后可能发生更新,请以官方最新信息为准。据此作出的任何决策,全部风险自担。

© 2026 林伽一 · AI科技日报

#GPU调度 #Kubernetes #开源框架 #表格预测 #时间序列模型

相关新闻

SpringBoot4 + Vue3 实现全局跨域配置与 JWT 登录鉴权|计算机毕设实战

SpringBoot4 + Vue3 实现全局跨域配置与 JWT 登录鉴权|计算机毕设实战

技术栈版本&#xff1a; SpringBoot 4.0.x JDK 21 JJWT 0.12.x Vue3 Vite Element Plus MySQL8.0 毕设后台系统必备登录认证模块&#xff0c;SpringBoot4 环境很多依赖包版本需要适配升级。一、pom.xml 核心依赖 <!-- SpringBoot4 Web --> <dependency><group…

2026/10/21 2:31:56 阅读更多 →
pandas时间索引实战:从创建、切片到重采样与时区处理

pandas时间索引实战:从创建、切片到重采样与时区处理

1. 时间索引为什么值得单独拎出来讲做数据分析的人都有一个共识&#xff1a;数据本身不可怕&#xff0c;可怕的是数据带着时间维度。一旦你的DataFrame里有一列时间戳&#xff0c;或者索引是时间类型&#xff0c;几乎所有操作都会变得微妙起来。切片、重采样、时区转换、缺失时…

2026/10/21 2:31:56 阅读更多 →
P1278 单词游戏【洛谷算法习题】

P1278 单词游戏【洛谷算法习题】

P1278 单词游戏 网页链接 P1278 单词游戏 题目描述 Io 和 Ao 在玩一个单词游戏。 他们轮流说出一个仅包含元音字母的单词&#xff0c;并且后一个单词的第一个字母必须与前一个单词的最后一个字母一致。 游戏可以从任何一个单词开始。 任何单词禁止说两遍&#xff0c;游…

2026/10/21 2:31:56 阅读更多 →

最新新闻

数据获取与处理实战:从数据源选择到数据清洗的完整指南

数据获取与处理实战:从数据源选择到数据清洗的完整指南

这几年做数据相关的工作&#xff0c;被问得最多的一个问题是&#xff1a;“我该从哪儿拿数据&#xff1f;拿到手之后又该怎么处理&#xff1f;”说实话&#xff0c;大多数人在第一步就卡住了&#xff0c;要么不知道怎么稳定地拿到数据&#xff0c;要么千辛万苦拿到一份Excel&am…

2026/10/21 3:08:09 阅读更多 →
C# 调用 QT 带界面 DLL:窗口嵌入与消息循环实战

C# 调用 QT 带界面 DLL:窗口嵌入与消息循环实战

简介&#xff1a;本资源面向需要在 C# 项目中复用 C Qt 界面组件的开发者&#xff0c;重点解决跨语言调用外部 UI DLL 的集成问题。资源以控制台程序调用 Qt 编译生成的界面 DLL 为主线&#xff0c;涵盖 DLL 放置路径与代码引用路径的对应关系&#xff0c;适合具备一定 C# 与 C…

2026/10/21 3:08:09 阅读更多 →
WorkTool:5 步实现无需 Root 的企业微信自动化

WorkTool:5 步实现无需 Root 的企业微信自动化

WorkTool&#xff1a;5 步实现无需 Root 的企业微信自动化 【免费下载链接】worktool 一款安全稳定的Android无障碍服务工具&#xff0c;支持控制企微/微信来运行的无人值守群管理企业微信机器人 项目地址: https://gitcode.com/GitHub_Trending/wo/worktool WorkTool 是…

2026/10/21 3:08:09 阅读更多 →
纯Delphi实现屏幕找图:模板匹配算法与性能优化实战

纯Delphi实现屏幕找图:模板匹配算法与性能优化实战

简介&#xff1a;这份Delphi图像匹配资源面向需要在Windows桌面环境中实现屏幕找图的开发者&#xff0c;适用于自动化测试、游戏辅助、屏幕抓取等场景&#xff0c;帮助解决从屏幕截取到目标定位的完整链路问题。资源包为rar压缩格式&#xff0c;整体约6.63MB&#xff0c;上游未…

2026/10/21 3:08:09 阅读更多 →
DNGM(1,1)离散灰色模型:小样本预测的Python实战与GM(1,1)对比

DNGM(1,1)离散灰色模型:小样本预测的Python实战与GM(1,1)对比

做数据分析的人&#xff0c;大概率都撞上过同一个尴尬&#xff1a;想预测下个月或者下一周期的数值&#xff0c;手里却只有五六个、七八个历史样本。经典统计模型要求大样本&#xff0c;深度学习更是无底洞式地吃数据&#xff0c;这俩在“贫数据”面前基本束手无策。灰色预测就…

2026/10/21 3:08:09 阅读更多 →
无人机航拍小目标检测数据集构建:从场景设计到智慧交通与应急救援落地

无人机航拍小目标检测数据集构建:从场景设计到智慧交通与应急救援落地

我做无人机视觉落地也有几年了&#xff0c;今年被问得最多的问题不是“模型怎么调”&#xff0c;而是“模型怎么到了现场就不灵”。很多朋友拿着公开的航拍检测模型&#xff0c;在桌面演示上mAP能到七八十个点&#xff0c;可一部署到国内的十字路口、老小区、城乡结合部&#x…

2026/10/21 3:07:07 阅读更多 →

日新闻

统一内存+量化:锐龙AI Max PRO 400如何本地跑320B大模型

统一内存+量化:锐龙AI Max PRO 400如何本地跑320B大模型

这段时间硬件圈和AI圈都在传一个事&#xff1a;AMD锐龙AI Max PRO 400系列把最高192GB统一内存搬进了PC形态的产品里&#xff0c;按宣传口径&#xff0c;本地跑320B参数的大家伙不再是纸面概念。我第一反应倒不是“内存真大”&#xff0c;而是这话背后的含金量——它把过去只能…

2026/10/21 0:00:11 阅读更多 →
AI助手深度使用体验:对话质量、长文本处理与指令遵循如何留住用户

AI助手深度使用体验:对话质量、长文本处理与指令遵循如何留住用户

1. 从“封号重开”这个行为说起&#xff1a;用户到底在追求什么“封号重开”这四个字&#xff0c;放在任何产品语境里都带着一股决绝的味道。一个账号从零开始积累使用记录、调教偏好、沉淀工作流&#xff0c;背后是大量的时间和精力成本。正常情况下&#xff0c;没有人愿意主动…

2026/10/21 0:00:11 阅读更多 →
ROS中YOLOv3工程落地:通信同步、坐标变换与性能调优

ROS中YOLOv3工程落地:通信同步、坐标变换与性能调优

1. 为什么在ROS里硬刚YOLOv3不是“炫技”&#xff0c;而是工程落地的必经之路我第一次在某高校机器人实验室看到那台搭载Jetson TX2的移动底盘原地打转、反复识别错垃圾桶时&#xff0c;就意识到&#xff1a;单纯跑通darknet_ros demo和真正让YOLOv3在ROS里“干活”&#xff0c…

2026/10/21 0:00:11 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型&#xff08;GMM&#xff09;的语音识别系统&#xff0c;很多人第一反应就是一堆数学公式&#xff0c;觉得门槛很高。但如果你真的在MATLAB里把它落地跑通&#xff0c;会发现核心其实就是三件事&#xff1a;把声音变成特征向量&#xff0c;用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人&#xff0c;但落到具体操作上&#xff0c;无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程&#xff1a;对图像做反白、改调色板、彩色转灰度&#xff0c;最后把像素数据导出成txt文件。单看每一…

2026/10/20 20:43:59 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词&#xff0c;你会发现一个很有意思的现象&#xff1a;每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型&#xff0c;有人指的是运动控制系统&#xff0c;还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →