评测全景:维度与方法
一、评测的工程界维度评测不只有一个维度。工程界从四个维度刻画评测,每个维度上都需要做出选择。维度 1:粒度 – 端到端 vs 组件级端到端评测(end-to-end): 输入 - [整个应用] - 输出 评最终输出质量 适合: 验证整体效果 组件级评测(component-level): 输入 - [节点1] - [节点2] - [节点3] - 输出 评每个节点的输入输出 适合: 定位问题节点DeepEval 明确区分端到端评测和组件级评测(span 级),Langfuse 支持对 trace 中任意节点打分。粒度选择取决于:验证整体效果用端到端,定位问题用组件级。维度 2:时机 – 离线 vs 在线离线评测(offline): 开发期,用预定义测试集 "发布前能不能用?" 在线评测(online): 生产期,对真实流量打分 "线上有没有出问题?"Langfuse、Phoenix、DeepEval 均支持在线评测–对生产 trace 实时打分,发现静默失败。在线评测已有实践工具,仍在发展中。详见⑤ 评测工程化。维度 3:判分来源 – LLM / 代码 / 人工 / 用户反馈LLM-as-judge: 用 LLM 评判输出质量(无真值时的默认选择) 代码评测: 用规则/断言判分(有真值时,便宜可靠) 人工标注: 人工审核打分(金标准,不可规模化) 用户反馈: 收集真实用户评价(真实但稀疏)Langfuse 把评测方法分为:LLM-as-a-judge、code evaluators、user feedback、manual labeling、custom pipelines。这是工程界对判分来源的共识分类。维度 4:目的 – 回归 / 监控 / 实验 / 告警回归测试: 防止改 A 破坏 B 质量监控: 持续评估输出质量 A/B 实验: 对比版本差异 异常告警: 检测突发质量下降四个维度正交:一次完整的评测需要在每个维度上做出选择。例如"对天气查询工作流做离线 + 端到端 + 代码评测 + 回归测试"是一组完整选择。二、评测方法:学界分类学界对评测方法有不同的分类视角。综述论文(Chang et al., “A Survey on Evaluation of Large Language Models”, arXiv:2307.03109, ACM TIST 2023)将评测方法分为 6 类:方法说明代表自动评测用计算指标定量评估Exact Match、F1、ROUGELLM-as-judge用 LLM 评判另一个 LLM 的输出G-Eval、PandaLM人工评测人工评估主观质量评分规则、专家评估

相关新闻

多Agent工作流落地成败关键:统一数据底座建设指南

多Agent工作流落地成败关键:统一数据底座建设指南

1. 项目概述:当企业AI从“单打独斗”走向“团队作战”,数据底座才是真正的胜负手你有没有遇到过这样的场景:花大价钱部署了一个智能财务分析Agent,它能自动生成现金流预测、识别异常支出、甚至给出优化建议;可一旦市场…

2026/10/18 4:50:18 阅读更多 →
SpringBoot 优雅关闭与降级——生产环境必备

SpringBoot 优雅关闭与降级——生产环境必备

发布新版本时如果直接 kill 进程,正在处理的请求会中断,数据可能不一致。优雅关闭让应用处理完当前请求再停止。 一、优雅关闭 server:shutdown: graceful spring:lifecycle:timeout-per-shutdown-phase: 30s二、手动降级 Component public class Degrad…

2026/10/20 7:10:45 阅读更多 →
网络热词@Yes! Scott!#的传播机制与文化解读

网络热词@Yes! Scott!#的传播机制与文化解读

1. 项目背景与现象解析"Yes! Scott!#"这个看似简单的短语,实际上代表了当代网络文化中一种独特的表达方式。这种由符号、英文单词和感叹号组成的短句,在社交媒体平台和即时通讯软件中迅速流行开来。它既不是传统意义上的标签(Hasht…

2026/10/18 4:50:37 阅读更多 →

最新新闻

打印数组最大数:从循环遍历到并行与流式处理的完整指南

打印数组最大数:从循环遍历到并行与流式处理的完整指南

别小看“打印数组最大数”这五个字。我见过太多工作三五年的开发者,写这段逻辑时栽在没人提醒的细节上:数组为空怎么办?全是负数怎么办?元素是浮点数带NaN怎么办?数据量到千万级怎么办?这段代码几乎是所有编…

2026/10/20 8:02:22 阅读更多 →
AI写PLC代码靠不靠谱?三个月实战经验与踩坑总结

AI写PLC代码靠不靠谱?三个月实战经验与踩坑总结

做PLC这行十几年了,最近三个月工作室群里聊得最多的就是AI写程序。一开始我是拒绝的,毕竟现场出问题是要跳闸停机的,谁敢拿一个“聊天机器人”生成的代码往设备上怼?但架不住项目催得紧,某天夜里实在改不动了&#xff…

2026/10/20 8:02:22 阅读更多 →
用DeepSeek降论文AI率:从检测原理到改写实操

用DeepSeek降论文AI率:从检测原理到改写实操

论文AI率飚红怎么办?先别急着满世界找“降痕神器”,我在这篇文章里把DeepSeek知网报告这套搭配的真实用法讲明白。很多同学遇到红色数值的第一反应是焦虑,第二个反应是找提示词“洗稿”,但这路子走偏了。真正能帮你把论文救回来的…

2026/10/20 8:02:22 阅读更多 →
CANUAV C源码解析:UAVCAN协议栈实现与嵌入式避坑指南

CANUAV C源码解析:UAVCAN协议栈实现与嵌入式避坑指南

简介:CANUAV是一套基于C语言实现的UAVCAN协议栈源码,面向在STM32F407平台上开发无人机及自动化设备通信节点的嵌入式工程师。它依托轻量级Canard库完成UAVCAN核心功能,将传感器数据、控制指令、状态报告等消息映射到CAN帧,并实现心…

2026/10/20 8:02:22 阅读更多 →
MIMO通信系统Matlab仿真:Alamouti编码与BER曲线实现

MIMO通信系统Matlab仿真:Alamouti编码与BER曲线实现

简介:这是一套面向通信工程学生与无线通信初学者的MIMO通信系统Matlab仿真实现,基于多天线收发、空间复用/分集与波束赋形构建立可运行链路,帮助理解信道容量提升、抗衰落机制及不同参数对系统性能的影响。压缩包共3个文件,以2个m…

2026/10/20 8:02:22 阅读更多 →
分时电价省钱实操:把家电搬到谷段,一年省几百元

分时电价省钱实操:把家电搬到谷段,一年省几百元

“早上八点的电费涨到一块二了,家里的洗衣机还在嗡嗡转。”这句话如今已经成了我家的自嘲梗。说真的,分时电价这玩意儿,第一次认真刷电费账单的人都会愣一下:一天之内电价居然能上蹿下跳好几回,早上出门前和深夜睡觉前…

2026/10/20 8:01:21 阅读更多 →

日新闻

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

CLRC663芯片Pin-to-Pin替代实战:从评估到量产全记录

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
ESP32舵机控制指南:原理、多路驱动与避坑实战

ESP32舵机控制指南:原理、多路驱动与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →
位移法实现一阶低通滤波:单片机ADC采样降噪实战

位移法实现一阶低通滤波:单片机ADC采样降噪实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 1:01:30 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/19 10:02:04 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/19 17:32:41 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/20 2:50:50 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/19 2:54:50 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/19 9:10:22 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 12:16:16 阅读更多 →