评测全景:维度与方法
一、评测的工程界维度评测不只有一个维度。工程界从四个维度刻画评测,每个维度上都需要做出选择。维度 1:粒度 – 端到端 vs 组件级端到端评测(end-to-end): 输入 - [整个应用] - 输出 评最终输出质量 适合: 验证整体效果 组件级评测(component-level): 输入 - [节点1] - [节点2] - [节点3] - 输出 评每个节点的输入输出 适合: 定位问题节点DeepEval 明确区分端到端评测和组件级评测(span 级),Langfuse 支持对 trace 中任意节点打分。粒度选择取决于:验证整体效果用端到端,定位问题用组件级。维度 2:时机 – 离线 vs 在线离线评测(offline): 开发期,用预定义测试集 "发布前能不能用?" 在线评测(online): 生产期,对真实流量打分 "线上有没有出问题?"Langfuse、Phoenix、DeepEval 均支持在线评测–对生产 trace 实时打分,发现静默失败。在线评测已有实践工具,仍在发展中。详见⑤ 评测工程化。维度 3:判分来源 – LLM / 代码 / 人工 / 用户反馈LLM-as-judge: 用 LLM 评判输出质量(无真值时的默认选择) 代码评测: 用规则/断言判分(有真值时,便宜可靠) 人工标注: 人工审核打分(金标准,不可规模化) 用户反馈: 收集真实用户评价(真实但稀疏)Langfuse 把评测方法分为:LLM-as-a-judge、code evaluators、user feedback、manual labeling、custom pipelines。这是工程界对判分来源的共识分类。维度 4:目的 – 回归 / 监控 / 实验 / 告警回归测试: 防止改 A 破坏 B 质量监控: 持续评估输出质量 A/B 实验: 对比版本差异 异常告警: 检测突发质量下降四个维度正交:一次完整的评测需要在每个维度上做出选择。例如"对天气查询工作流做离线 + 端到端 + 代码评测 + 回归测试"是一组完整选择。二、评测方法:学界分类学界对评测方法有不同的分类视角。综述论文(Chang et al., “A Survey on Evaluation of Large Language Models”, arXiv:2307.03109, ACM TIST 2023)将评测方法分为 6 类:方法说明代表自动评测用计算指标定量评估Exact Match、F1、ROUGELLM-as-judge用 LLM 评判另一个 LLM 的输出G-Eval、PandaLM人工评测人工评估主观质量评分规则、专家评估

相关新闻

多Agent工作流落地成败关键:统一数据底座建设指南

多Agent工作流落地成败关键:统一数据底座建设指南

1. 项目概述:当企业AI从“单打独斗”走向“团队作战”,数据底座才是真正的胜负手你有没有遇到过这样的场景:花大价钱部署了一个智能财务分析Agent,它能自动生成现金流预测、识别异常支出、甚至给出优化建议;可一旦市场…

2026/11/12 2:06:21 阅读更多 →
SpringBoot 优雅关闭与降级——生产环境必备

SpringBoot 优雅关闭与降级——生产环境必备

发布新版本时如果直接 kill 进程,正在处理的请求会中断,数据可能不一致。优雅关闭让应用处理完当前请求再停止。 一、优雅关闭 server:shutdown: graceful spring:lifecycle:timeout-per-shutdown-phase: 30s二、手动降级 Component public class Degrad…

2026/11/11 16:47:48 阅读更多 →
网络热词@Yes! Scott!#的传播机制与文化解读

网络热词@Yes! Scott!#的传播机制与文化解读

1. 项目背景与现象解析"Yes! Scott!#"这个看似简单的短语,实际上代表了当代网络文化中一种独特的表达方式。这种由符号、英文单词和感叹号组成的短句,在社交媒体平台和即时通讯软件中迅速流行开来。它既不是传统意义上的标签(Hasht…

2026/11/9 12:15:42 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/12 5:00:00 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/12 5:13:20 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/12 5:13:20 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/12 18:22:26 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/12 18:22:25 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/12 5:13:20 阅读更多 →

日新闻

周新闻

月新闻