“缓存到缓存”新范式:大语言模型直接语义通信,准确率提升、延迟降低
跳转到主要内容搜索提交捐赠 登录搜索 arXiv按回车键进行搜索 * 高级搜索在计算机科学的计算与语言领域有论文提出新的大语言模型通信范式。arXiv:2510.03215(计算机科学)[于 2025 年 10 月 3 日提交 ([v1])最后于 2026 年 3 月 2 日修订此版本为 v2]标题缓存到缓存大语言模型间的直接语义通信作者为傅天宇、闵子涵、张涵灵、闫吉超、戴国浩、欧阳万里、王宇。可查看由他们撰写的论文《缓存到缓存大语言模型间的直接语义通信》的 PDF 版本。查看 PDF HTML实验版摘要指出多大语言模型LLM系统能利用不同大语言模型的互补优势实现单一模型无法达到的性能和效率提升。但现有设计中大语言模型通过文本通信会丢失丰富语义信息产生逐令牌生成延迟。鉴于此局限研究人员提出疑问大语言模型能否超越文本进行通信预言机实验表明丰富键值缓存KV - Cache语义可在不增加缓存大小的情况下提高响应质量证明 KV - Cache 是有效模型间通信媒介。因此研究提出了“缓存到缓存”Cache - to - CacheC2C新范式用于实现大语言模型间的直接语义通信。C2C 使用神经网络将源模型的 KV - Cache 与目标模型的 KV - Cache 进行投影和融合以实现直接的语义转移。一种可学习的门控机制会选择从缓存通信中受益的目标层。与文本通信相比C2C 利用了两个模型的深度、专业语义同时避免了显式的中间文本生成。实验表明C2C 的平均准确率比单个模型高出 6.4 - 14.2%。与文本通信范式相比它的性能进一步提升了约 3.1 - 5.4%同时平均延迟降低至原来的 1/2.5。研究代码可在 此链接 获取。评论| 发表于 ICLR26---|---学科分类| 计算与语言 (cs.CL)机器学习 (cs.LG)数学学科分类| 68T07, 68T50美国计算机协会分类| I.2.7引用格式| [arXiv:2510.03215] [cs.CL]| 若引用此版本可使用 [arXiv:2510.03215v2] [cs.CL]| https://doi.org/10.48550/arXiv.2510.03215聚焦了解更多arXiv 通过 DataCite 分配的 DOI提交历史来自傅天宇 [查看邮箱][[v1]]2025 年 10 月 3 日星期五17:52:32 UTC484 KB[v2]2026 年 3 月 2 日星期一19:24:02 UTC546 KB全文链接可查看由傅天宇等 7 位作者撰写的论文《缓存到缓存大语言模型间的直接语义通信》的相关版本。* 查看 PDF* HTML实验版* TeX 源代码查看许可当前浏览上下文计算与语言 (cs.CL)[ 上一篇] | [下一篇 ][最新文章] | [近期文章] |[2025 年 10 月文章]切换浏览领域[计算机科学][机器学习]参考文献与引用* [NASA ADS]* [谷歌学术]* [语义学者]导出 BibTeX 引用 加载中...BibTeX 格式引用×加载中...数据提供方书签文献与引用工具文献浏览器 切换文献浏览器 _(什么是文献浏览器)_关联论文 切换关联论文 _(什么是关联论文)_Litmaps 切换Litmaps _(什么是 Litmaps)_scite.ai 切换scite 智能引用 _(什么是智能引用)_与本文相关的代码、数据和媒体alphaXiv 切换alphaXiv _(什么是 alphaXiv)_代码链接 切换CatalyzeX 论文代码查找器 _(什么是 CatalyzeX)_DagsHub 切换DagsHub _(什么是 DagsHub)_GotitPub 切换Gotit.pub _(什么是 GotitPub)_Huggingface 切换Hugging Face _(什么是 Huggingface)_ScienceCast 切换ScienceCast _(什么是 ScienceCast)_演示Replicate 切换Replicate _(什么是 Replicate)_Hugging Face 空间 切换Hugging Face 空间 _(什么是空间)_TXYZ.AI 切换TXYZ.AI _(什么是 TXYZ.AI)_推荐器和搜索工具影响力花图链接影响力花图 _(什么是影响力花图)_CORE 推荐器 切换CORE 推荐器 _(什么是 CORE)_* 作者* 会议* 机构* 主题arXivLabs与社区合作的实验项目arXivLabs 是一个框架允许合作者直接在网站上开发和分享新的 arXiv 功能。与 arXivLabs 合作的个人和组织都认同并接受开放性、社区性、卓越性和用户数据隐私价值观。arXiv 致力于这些价值观仅与遵守这些价值观的合作伙伴合作。若有能为 arXiv 社区增值的项目想法可了解更多关于 arXivLabs 的信息。[本文哪些作者是推荐人]| [禁用 MathJax] (什么是 MathJax)衷心感谢主要资助者、会员机构以及所有贡献者的支持。[关于] * [帮助] *[联系我们] *[订阅] *[版权] *[隐私] *[可访问性] *[运营状态新窗口打开]主要资金支持来自*[MSC]数学学科分类*[ACM]美国计算机协会分类

相关新闻

Lightning Fabric 模型并行实战:用 FSDP、Tensor Parallel 与 2D 并行训练十亿参数模型

Lightning Fabric 模型并行实战:用 FSDP、Tensor Parallel 与 2D 并行训练十亿参数模型

Lightning Fabric 模型并行实战:用 FSDP、Tensor Parallel 与 2D 并行训练十亿参数模型 【免费下载链接】pytorch-lightning Pretrain, finetune ANY AI model of ANY size on 1 or 10,000 GPUs with zero code changes. 项目地址: https://gitcode.com/gh_mirror…

2026/9/23 9:46:51 阅读更多 →
Gazebo仿真中Unitree A1机器人控制器优化实践

Gazebo仿真中Unitree A1机器人控制器优化实践

1. 项目背景与核心需求在机器人仿真开发领域,Gazebo作为一款功能强大的物理仿真引擎,被广泛应用于各类机器人控制算法的验证环节。宇树(Unitree)作为四足机器人领域的知名厂商,其官方提供的控制器在Gazebo仿真环境中表…

2026/9/20 15:40:48 阅读更多 →
VMware 安装 Ubuntu 24.04 LTS 完整教程:从虚拟机创建到开发环境搭建

VMware 安装 Ubuntu 24.04 LTS 完整教程:从虚拟机创建到开发环境搭建

1. 为什么还要用虚拟机跑 Ubuntu1.1 虚拟机方案在当下的真实价值很多人第一反应是:现在云服务器这么便宜,WSL 也这么好用,为什么还要在本地装虚拟机跑 Ubuntu?我用了七八年虚拟机,也用过云主机和 WSL,说句实…

2026/9/22 1:08:02 阅读更多 →

最新新闻

KMeans聚类在宿舍分配中的实战:特征工程到K值选择

KMeans聚类在宿舍分配中的实战:特征工程到K值选择

简介:针对高校宿舍分配场景,这份基于KMeans聚类算法的Python源码包提供了从数据预处理、模型训练到结果可视化的完整实现,适合需要将无监督学习落地到实际管理问题的数据科学初学者或高校信息管理相关技术人员。压缩包共13个文件,…

2026/9/23 18:38:49 阅读更多 →
fpm 构建 Solaris SRV4 软件包(solaris 输出格式)完全指南

fpm 构建 Solaris SRV4 软件包(solaris 输出格式)完全指南

fpm 构建 Solaris SRV4 软件包(solaris 输出格式)完全指南 【免费下载链接】fpm Effing package management! Build packages for multiple platforms (deb, rpm, etc) with great ease and sanity. 项目地址: https://gitcode.com/gh_mirrors/fp/fpm …

2026/9/23 18:38:49 阅读更多 →
Java Swing数独游戏工程级实现与难度控制

Java Swing数独游戏工程级实现与难度控制

简介:本资源是一份面向Java初学者与课程设计实践者的完整数独小游戏开发项目,适用于高校Java程序设计、GUI编程或软件工程类课程作业参考。项目基于Swing构建图形界面,代码结构清晰,涵盖游戏逻辑、难度生成、用户交互及资源管理等…

2026/9/23 18:38:49 阅读更多 →
Fedora开发环境避坑指南:保姆级教程解决常见报错

Fedora开发环境避坑指南:保姆级教程解决常见报错

Fedora开发环境避坑指南:保姆级教程解决常见报错 盯着屏幕上一片红色的StackTrace,是不是感觉脑子瞬间宕机?刚把Fedora装好,连个Python环境都跑不通,报错信息长得像天书,根本不知道从哪下手。别慌,这份保姆级教程就是为你…

2026/9/23 18:38:49 阅读更多 →
基于 TVM 编译栈的 WebAssembly 独立深度学习推理:wasm-standalone 项目实战解析

基于 TVM 编译栈的 WebAssembly 独立深度学习推理:wasm-standalone 项目实战解析

编译器深度学习模型优化 【免费下载链接】tvm Open deep learning compiler stack for cpu, gpu and specialized accelerators 项目地址: https://gitcode.com/gh_mirrors/tvm7/tvm 点击查看 免费下载 本文围绕仓库中的 apps/wasm-standalone 实验性项目&#xff…

2026/9/23 18:38:48 阅读更多 →
2026最新怎么注册营业执照,程序员如何搭建个人开发环境

2026最新怎么注册营业执照,程序员如何搭建个人开发环境

2026最新怎么注册营业执照,程序员如何搭建个人开发环境 刚学会Python语法,打开VS Code却不知从何下手?这是90%新手最真实的困境。2026最新的技术栈迭代很快,但基础项目搭建逻辑没变。很多教程只讲“怎么写代码”,却忽略了“怎么…

2026/9/23 18:37:48 阅读更多 →

日新闻

3招搞定手机怎么下载微信面试难题实战项目解析

3招搞定手机怎么下载微信面试难题实战项目解析

3招搞定手机怎么下载微信面试难题实战项目解析 面试被问“手机怎么下载微信”背后的原理,90%的人答不上来。别笑,这看似弱智的问题,实则是考察你对移动应用分发机制、安全校验及网络协议理解的试金石。我带过不少校招新人,他们背了八股文,却连一个A…

2026/9/23 0:00:23 阅读更多 →
2k显示屏性能优化踩坑:版本升级后API全变了,这份源码解析救了我

2k显示屏性能优化踩坑:版本升级后API全变了,这份源码解析救了我

2k显示屏性能优化踩坑:版本升级后API全变了,这份源码解析救了我 刚把开发环境的显示器从1080P换到2K,跑老项目直接报错,版本升级后 API…

2026/9/23 0:01:25 阅读更多 →
3步搞定美眉图实战项目,告别官方文档抓不住重点

3步搞定美眉图实战项目,告别官方文档抓不住重点

3步搞定美眉图实战项目,告别官方文档抓不住重点 官方文档翻了三遍还是云里雾里?别急,美眉图在实战项目中常被用来做数据可视化,但它的原理比你想的简单。今天咱们直接上手,用一个完整的小项目把美眉图跑通,不再死磕那些冗长的理论说明。…

2026/9/23 0:01:25 阅读更多 →

周新闻

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

直接铺开项目本身吧。这几个月我一直在折腾一件事:用Flutter给OpenHarmony做一款游戏集合类的App,说白了就是把若干小游戏塞进一个壳里,用统一入口分发。这个方向本身不算新鲜,真正让我花了不少心思的,是首页那堆游戏卡…

2026/9/23 4:55:02 阅读更多 →
Word表格编号全攻略:从列表编号到题注交叉引用

Word表格编号全攻略:从列表编号到题注交叉引用

写Word文档,最让人头疼的往往是那些“看起来不起眼”的小问题。比如表格编号这事:今天在表后面多加了两个空白行,明天给客户交稿前发现整个章节的编号全部错位,光是挨个改序号就能耗掉大半个下午。我前阵子帮人整理一份上百页的技…

2026/9/23 4:49:06 阅读更多 →
从第一个站到第二个站:独立开发者的静态网站选型与落地实践

从第一个站到第二个站:独立开发者的静态网站选型与落地实践

1. 项目概述1.1 核心需求解析做独立开发者这几年,说实话,第一个网站上线的那天晚上我兴奋得没睡着。但等它跑了半年,流量惨淡、功能臃肿、代码自己都懒得看第二遍之后,我才慢慢琢磨明白一个道理:第一个网站是练手&…

2026/9/23 9:53:41 阅读更多 →

月新闻

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能分类:[AI/大模型]细分主题:AI 增强型 CI/CD 流水线自动化与 GitOps 实践:Agent 工作流、工具调用与任务拆解:从原型到生产的验收清单很多团队在尝试用大…

2026/9/23 9:53:40 阅读更多 →
容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场分类:[工程技术]细分主题:Kubernetes 生产环境运维与排障实战:可复制的项目复盘模板与决策记录大部分团队的事故复盘报告,最后都变成了躺在 Confluence 或钉…

2026/9/23 9:53:40 阅读更多 →
容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步分类:[工程技术]细分主题:Docker 容器化技术与镜像安全管理:核心链路的逐步实现与关键代码取舍面对一个积累了五六年历史包袱的单体架构应用(包含 Web 接口、后台…

2026/9/23 9:53:40 阅读更多 →