多模态AI看人熟不熟 视觉信息没帮上忙
有些产品功能需要模型判断两个人的关系会议软件分析参会者是不是熟人社交产品判断该不该推荐破冰话题客服系统识别用户和客服之间是否已经建立过沟通。过去这类判断主要靠文本和语音现在多模态模型能同时看画面了——一段 20 秒的视频两个人面对面聊天模型能不能看出他们是熟人还是陌生人FriendBench 这个基准做的就是这件事而且结论比预想的有意思模型判断的准确率和人类没有显著差异但在回答倾向上模型和人类出现了系统性分歧。准确率不输人类倾向却不一样基准用 20 秒的破冰对话视频作为素材对比 26 个多模态大模型和人类群体在 96 个配对场景里的表现测试覆盖文本、音频、视频三种模态。结果分成两层看。准确率层面模型和人类没有显著差异都能从对话里提取出熟不熟的线索。但第二层结果暴露了差异人类在回答时保持中立倾向而最强的模型倾向于给出陌生人这个答案。也就是说模型在拿不准的时候默认往不认识那边靠。这个偏置不是推理能力的问题。从测试设计来看模型面对的是同样的信息输出却系统性偏向一侧更像是训练数据里陌生人样本占比更高或者模型学到了没有明确熟悉证据就判断为陌生的保守策略。视觉模态帮了人类没帮模型更值得琢磨的是第三个发现多模态信息对人类的帮助比对模型大。人类在文本和音频之外加上视觉行为信息后判断准确率明显提升——两个人说话时的眼神、身体姿态、距离感这些画面信息对人类有用。但同样的视觉信息加给模型准确率几乎没有变化。这说明模型在处理社交场景时视觉通道的信息并没有被真正利用起来。图像特征可能被提取了但没有和熟悉度这个任务目标形成有效的映射。对做多模态产品的人来说这是个提醒模型接了视频输入不等于它会用视频信息——视觉模态的接入成本和它对最终判断的实际贡献可能是两回事。对工程团队意味着什么这类基准看起来偏研究但对做社交、会议、客服类产品的团队有实际参考价值。模型在不确定场景下系统性偏向陌生人在真实产品里会产生累积效应如果一个推荐系统反复把熟人关系判断成陌生人用户感受到的就是功能失灵。而且这种偏置是隐性的——单次判断看不出问题只有统计大量输出才能发现。从工程角度看缓解手段无非几种在提示层面要求模型先判断证据强度再作答或者在决策层面对陌生人结论设置更高的置信度门槛。但基准里没有给出模型训练数据的分布细节也没有说明人类的中立倾向是否可以被模型模仿这些手段能起多大作用目前没有公开数据支撑。一个值得跟踪的问题是模型为什么在视觉模态上没有获益。如果是训练数据里社交场景样本太少那么随着多模态训练数据的丰富这个短板可能自动缓解如果是视觉特征和任务目标之间的映射设计问题那就需要架构层面的调整。两种情况对应完全不同的投入方向。关于维基框架维基框架关注企业应用开发中的长期维护问题。在实际项目中业务系统往往同时涉及权限、微服务、接口协议、部署环境等复杂因素因此我们希望提供一套更容易扩展和维护的基础框架。官网framewiki.comGiteegitee.com/wiki-frameworkGitHubgithub.com/wiki-framework示例项目gitee.com/cdkjframework/framewiki-example 许可证MulanPSL-2.0木兰宽松许可证第2版

相关新闻

UE插件间调用蓝图函数:ProcessEvent反射机制详解与实践

UE插件间调用蓝图函数:ProcessEvent反射机制详解与实践

1. 项目概述:为什么要在UE插件间调用蓝图函数?在虚幻引擎(Unreal Engine, 简称UE)的日常开发中,我们经常会遇到一个看似简单却颇为棘手的问题:一个用C编写的核心功能模块(通常封装在…

2026/10/17 15:35:11 阅读更多 →
让AI当调参师 多轮迭代还是短板

让AI当调参师 多轮迭代还是短板

机器学习团队里最枯燥的活,大概就是调参:跑一轮实验,看曲线,改学习率,再跑一轮。网格搜索、Optuna 这类工具解决了一部分自动化问题,但它们只看指标数字,看不懂日志里"loss 震荡但验证集在…

2026/10/17 15:44:59 阅读更多 →
瑞云渲染大赛技术趋势与参赛指南

瑞云渲染大赛技术趋势与参赛指南

1. 项目概述:瑞云渲染大赛的行业影响力这个由国内头部云渲染平台主办的年度赛事已经走到了第五个年头,从最初的技术交流活动逐渐发展为CG行业的标杆性赛事。今年以"奇幻副本"为主题的创作方向,明显瞄准了当前游戏和影视行业对高质量…

2026/10/17 7:59:29 阅读更多 →

最新新闻

C# .NetCore Swagger ISchemaFilter Long 转 String 防精度丢失

C# .NetCore Swagger ISchemaFilter Long 转 String 防精度丢失

目录 解决方案 方法1:使用 SchemaFilter ‌1、创建自定义 SchemaFilter‌ ‌2、在 Swagger 配置中使用该 Filter‌ 方法2:使用 OperationFilter 或 DocumentFilter 1、‌创建自定义 OperationFilter 2、在 Swagger 配置中使用该 Filter 总结 如果…

2026/10/18 3:55:22 阅读更多 →
GLM-Turbo(龙虾模型)API接入指南:Python调用、参数调优与实战

GLM-Turbo(龙虾模型)API接入指南:Python调用、参数调优与实战

最近AI圈里有个很热的称呼叫“龙虾模型”,对应的其实就是GLM-Turbo这个系列。很多人一听到这名字就懵,甚至以为是哪个海鲜行业的图像识别模型,但实际它是一个大语言模型,主打的是中文对话、写作、代码生成和知识问答。我这阵子正好…

2026/10/18 3:55:22 阅读更多 →
iOS WebRTC示例解析:从信令到渲染跑通音视频通话链路

iOS WebRTC示例解析:从信令到渲染跑通音视频通话链路

简介:面向iOS开发者的WebRTC集成示例工程,基于Objective-C实现同类应用间的实时音视频通话,适合希望掌握WebRTC核心流程与原生设备适配的移动端工程师入门参考。压缩包共24个文件,包含7个m源码、5个h头文件、3个plist配置&#xf…

2026/10/18 3:55:22 阅读更多 →
Play Integrity Fix 实战教程:如何让你的 Android 设备重新通过完整性检测

Play Integrity Fix 实战教程:如何让你的 Android 设备重新通过完整性检测

Play Integrity Fix 实战教程:如何让你的 Android 设备重新通过完整性检测 【免费下载链接】PlayIntegrityFix Fix Play Integrity (and SafetyNet) verdicts. 项目地址: https://gitcode.com/GitHub_Trending/pl/PlayIntegrityFix 银行 App 一打开就闪退&am…

2026/10/18 3:55:22 阅读更多 →
Spring AI集成大模型:Java开发者最佳实践指南

Spring AI集成大模型:Java开发者最佳实践指南

Spring AI:Java开发者的人工智能集成利器先说一个这两年技术圈里特别明显的变化:以前说到AI开发,大家默认是Python的天下,Java程序员只能站在旁边看热闹,顶多通过HTTP接口调一下别人封装好的服务。但从2024年开始&…

2026/10/18 3:55:22 阅读更多 →
SpringBoot3断代升级实战:从零搭建到部署的完整指南

SpringBoot3断代升级实战:从零搭建到部署的完整指南

前两周帮某电商团队做技术迁移评审,对方项目经理一上来就问:能不能在 SpringBoot2.7 基础上直接改版本号升到 3?我当时就告诉他:这可不是改一行版本号的事。编译直接红一片,javax消失,Tomcat行为变了&#…

2026/10/18 3:54:22 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →