RAG牛了,天大RE-Rag更懂用户
今天为大家分享的是杭州电子科技大学、天津大学、香港城市大学联合出品的社交媒体热度预测论文–RE-Rag它把social attribute从辅助特征升维成传播机制代理变量让RAG检索终于能分清内容像和传播路径像。同一张蓝铃花林的图片发在不同作者、不同类别标签下热度可能差几个数量级。现有RAG方法用语义相似度检索结果把图也像、文也像、但热度完全不同的样本拉回来当辅助特征反而把模型带偏。RE-Rag要解决的就是这种伪相关检索问题。痛点在哪一句话判断语义相似不等于传播机制相似。论文Section 1一句话点透相似内容可以挂在不同social context下触达不同用户群走不同扩散路径最终热度天差地别。现有方法的处理方式有三种问题第一类MMRA、ICPF只用语义相似度检索完全忽略social attribute第二类RAGTrans用hypergraph聚合social attribute但只是粗粒度聚类抓不住底层distribution mechanism第三类SKAPP用BM25加权social attribute但还是把它当内容相似度的辅助cue没显式建模传播机制论文核心判断社交属性应该作为平台分发机制建模的代理变量而不是内容相似度度量的辅助特征。。核心思路RE-Rag提出dual-factor模型社交媒体热度由两个独立因子决定–content quality内容本身有多吸引人distribution mechanism平台把内容推给了多少用户由author/category/language等social attribute决定这个视角让social attribute从feature升维成mechanism indicator整个框架围绕如何让检索和预测都感知这个机制展开。框架分两段**Semantic-Attribute RetrieverSAR**负责从数据库里捞语义像机制像的实例**Relation-Guided PredictorRGP**负责用relation map引导attention按属性关系分配权重。两段都把social attribute作为一等公民而不是事后补丁。方案细节SAR检索SAR分两阶段。第一阶段是语义匹配对target和候选UGC分别算text和image的cosine相似度再用α加权求和image权重αtext权重1-α最优α0.3text贡献更大。这一步还是常规多模态相似度。第二阶段是属性补偿这是RE-Rag的关键创新。对每个social attribute计算rarity分global和local两个视角Global RarityGRIDF形式log(N_total / (freq1)) 1衡量该属性值在整个数据库里的稀有度Local RarityLRlog(freq_max / (freq1)) 1衡量该属性值在同属性内的稀有度总rarity sqrt(GR · LR)几何平均保证两个视角都重要compensation weight对每个属性独立计算(1 Norm® · T(候选, 目标))T是matching function–属性值不同为1相同为0。直觉稀有属性的差异更能区分传播机制所以稀有且不同的属性会放大补偿权重。最终匹配分 语义匹配分 × ∏补偿权重按这个分取**top-NN40**作为检索结果。RGP预测RGP的核心是把属性关系嵌入attention。先构造relation map对任意两个实例retrieved target在每个属性上打0/1/2分0两个实例属性值不同1相同但与target不同2相同且与target相同self-relation mapN×N×m只含retrieved实例给s-RGT用cross-relation map1×N×m含target给c-RGT用。RGT的trick是把relation map注入attention的Key。标准attention是 softmax(Q·K^T/√d)·VRE-Rag在K上做手脚先 M MLP(Embed(E))再K_refined K · M然后用refined K做剩下的标准transformer计算这样relation map通过M调制K进而影响attention权重分配。具体流程Semantic Encoder用cross-attention融合text和image特征每个retrieved实例的特征拼上自己的popularity和similarity score过MLP加positional encoding作为s-RGT输入s-RGT用self-relation map做self-refinementc-RGT以target特征为Q、s-RGT输出为K/V用cross-relation map做cross-refinement最后target特征和c-RGT输出拼接过MLP出预测L2 loss监督实验结果主结果SMPD上三指标全面领先相对次优提升30%左右更难的SMTPD282K样本、90语言也击败RAGtransICIP小数据集上SKAPP略胜因为attribute与distribution弱相关RE-Rag的优势要在大规模复杂场景才体现。效率亮点SMTPD上RE-Rag检索只要72秒比SKAPP快325倍比RAGtrans快60倍。又快又准的原因是SAR的rarity加权直接过滤掉伪相关样本不用像SKAPP那样做多阶段refinement。消融结论三件套都贡献明确–去retrieval MSE翻倍地基去attribute compensation涨25%纯语义不够去relation map涨7%属性关系嵌入attention有效去c-RGT比去s-RGT的MSE涨更多c-RGT更能压极端误差s-RGT和c-RGT互补。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相关新闻

面试官:随着大模型上下文不断增加,RAG 会消失吗?

面试官:随着大模型上下文不断增加,RAG 会消失吗?

“二十多份产品手册,总共 40 万 token;模型有 100 万上下文。一次全塞进去不就行了,为什么还要做 RAG?” 候选人回答:“因为 RAG 能减少幻觉。” 这个回答不算错,但只答到了结果,没有解释资料…

2026/10/24 3:10:03 阅读更多 →
RAG文档解析与知识库构建

RAG文档解析与知识库构建

RAG技术实现全流程 01文档解析 常见文档类型与特点: Word VS PDF word一般是会把doc转换为docx进行解析,pdf就会比较复杂些。 问答对解析: 在RAG(检索增强生成)系统的文档处理流程中,常规的方法其实就是…

2026/10/27 5:52:02 阅读更多 →
开发商售楼处数字化升级怎么做?

开发商售楼处数字化升级怎么做?

房企的数字化转型投入正在快速增长,据行业数据显示,2025年房企数字化投入规模已突破800亿元,年复合增长率达35%。售楼处的数字化升级不是单一环节的改造,而是从“获客-展示-成交-服务”全链路的系统升级。数字化升级四步法第一步&…

2026/10/25 15:27:44 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/10/27 17:33:32 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/10/28 7:28:00 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/10/28 9:02:11 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/10/27 18:20:50 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/10/28 9:00:54 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/10/28 7:29:02 阅读更多 →

日新闻

周新闻

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/28 16:58:40 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/28 9:01:47 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/27 19:19:37 阅读更多 →