评测全景:维度与方法
一、评测的工程界维度评测不只有一个维度。工程界从四个维度刻画评测,每个维度上都需要做出选择。维度 1:粒度 – 端到端 vs 组件级端到端评测(end-to-end): 输入 - [整个应用] - 输出 评最终输出质量 适合: 验证整体效果 组件级评测(component-level): 输入 - [节点1] - [节点2] - [节点3] - 输出 评每个节点的输入输出 适合: 定位问题节点DeepEval 明确区分端到端评测和组件级评测(span 级),Langfuse 支持对 trace 中任意节点打分。粒度选择取决于:验证整体效果用端到端,定位问题用组件级。维度 2:时机 – 离线 vs 在线离线评测(offline): 开发期,用预定义测试集 "发布前能不能用?" 在线评测(online): 生产期,对真实流量打分 "线上有没有出问题?"Langfuse、Phoenix、DeepEval 均支持在线评测–对生产 trace 实时打分,发现静默失败。在线评测已有实践工具,仍在发展中。详见⑤ 评测工程化。维度 3:判分来源 – LLM / 代码 / 人工 / 用户反馈LLM-as-judge: 用 LLM 评判输出质量(无真值时的默认选择) 代码评测: 用规则/断言判分(有真值时,便宜可靠) 人工标注: 人工审核打分(金标准,不可规模化) 用户反馈: 收集真实用户评价(真实但稀疏)Langfuse 把评测方法分为:LLM-as-a-judge、code evaluators、user feedback、manual labeling、custom pipelines。这是工程界对判分来源的共识分类。维度 4:目的 – 回归 / 监控 / 实验 / 告警回归测试: 防止改 A 破坏 B 质量监控: 持续评估输出质量 A/B 实验: 对比版本差异 异常告警: 检测突发质量下降四个维度正交:一次完整的评测需要在每个维度上做出选择。例如"对天气查询工作流做离线 + 端到端 + 代码评测 + 回归测试"是一组完整选择。二、评测方法:学界分类学界对评测方法有不同的分类视角。综述论文(Chang et al., “A Survey on Evaluation of Large Language Models”, arXiv:2307.03109, ACM TIST 2023)将评测方法分为 6 类:方法说明代表自动评测用计算指标定量评估Exact Match、F1、ROUGELLM-as-judge用 LLM 评判另一个 LLM 的输出G-Eval、PandaLM人工评测人工评估主观质量评分规则、专家评估

相关新闻

多Agent工作流落地成败关键:统一数据底座建设指南

多Agent工作流落地成败关键:统一数据底座建设指南

1. 项目概述:当企业AI从“单打独斗”走向“团队作战”,数据底座才是真正的胜负手你有没有遇到过这样的场景:花大价钱部署了一个智能财务分析Agent,它能自动生成现金流预测、识别异常支出、甚至给出优化建议;可一旦市场…

2026/7/29 0:17:38 阅读更多 →
SpringBoot 优雅关闭与降级——生产环境必备

SpringBoot 优雅关闭与降级——生产环境必备

发布新版本时如果直接 kill 进程,正在处理的请求会中断,数据可能不一致。优雅关闭让应用处理完当前请求再停止。 一、优雅关闭 server:shutdown: graceful spring:lifecycle:timeout-per-shutdown-phase: 30s二、手动降级 Component public class Degrad…

2026/7/29 9:59:51 阅读更多 →
网络热词@Yes! Scott!#的传播机制与文化解读

网络热词@Yes! Scott!#的传播机制与文化解读

1. 项目背景与现象解析"Yes! Scott!#"这个看似简单的短语,实际上代表了当代网络文化中一种独特的表达方式。这种由符号、英文单词和感叹号组成的短句,在社交媒体平台和即时通讯软件中迅速流行开来。它既不是传统意义上的标签(Hasht…

2026/7/30 3:52:33 阅读更多 →

最新新闻

基于 MCTS 强化学习的五子棋联机对战平台|前后端分离完整项目开源

基于 MCTS 强化学习的五子棋联机对战平台|前后端分离完整项目开源

基于 MCTS 强化学习的五子棋联机对战平台|前后端分离完整项目开源 ✨ 项目简介 最近基于开源 AI 五子棋算法项目 five-in-a-row-AI 进行二次深度开发,从零完善了多人联机房间系统、AI自动托管、悔棋机制、双棋盘尺寸适配、对局管理等完整业务功能&…

2026/7/30 16:20:05 阅读更多 →
62-附录A:Linux内核USB设备层次

62-附录A:Linux内核USB设备层次

专栏总目录 文章目录 概述 一、USB设备层次结构 1.1 层次关系 1.2 层次说明 二、设备结构体(struct usb_device) 2.1 核心字段 2.2 关键字段说明 三、配置结构体(struct usb_host_config) 3.1 结构体定义 3.2 配置说明 四、接口结构体(struct usb_interface) 4.1 结构体定义 4…

2026/7/30 16:20:05 阅读更多 →
2026年想参加天津统招专升本集训?海河教育园区集训地点揭秘!

2026年想参加天津统招专升本集训?海河教育园区集训地点揭秘!

2026年想参加天津统招专升本集训?海河教育园区集训地点揭秘!在竞争激烈的天津统招专升本考试中,集训成为众多考生提升成绩、实现本科梦想的关键途径。天津津诚育才培训学校在海河教育园区的集训地点,为考生提供了优质的学习环境和…

2026/7/30 16:20:05 阅读更多 →
终极指南:使用palworld-save-tools轻松编辑帕鲁世界存档文件

终极指南:使用palworld-save-tools轻松编辑帕鲁世界存档文件

终极指南:使用palworld-save-tools轻松编辑帕鲁世界存档文件 【免费下载链接】palworld-save-tools Tools for converting Palworld .sav files to JSON and back 项目地址: https://gitcode.com/gh_mirrors/pa/palworld-save-tools 你是否曾为Palworld存档文…

2026/7/30 16:20:05 阅读更多 →
Bash多行字符串处理技巧与最佳实践

Bash多行字符串处理技巧与最佳实践

1. Bash多行字符串基础概念在Bash脚本编程中,处理多行字符串是日常开发中的常见需求。与单行字符串不同,多行字符串需要特殊的语法处理方式。让我们先明确几个基本概念:单引号字符串:完全字面量,不解析变量和转义字符双…

2026/7/30 16:20:05 阅读更多 →
成都LED显示屏生产商

成都LED显示屏生产商

痛点深度剖析在LED显示屏行业中,我们团队在实践中发现,客户普遍面临以下几个痛点:稳定性问题:长期使用后,屏幕出现“涨缩”现象,导致画面失真和光衰。 维护成本高:传统LED显示屏需要频繁的维修和…

2026/7/30 16:19:05 阅读更多 →

日新闻

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南 【免费下载链接】DriverStoreExplorer Driver Store Explorer 项目地址: https://gitcode.com/gh_mirrors/dr/DriverStoreExplorer 您是否曾因Windows系统盘空间不足而烦恼?是否遇到过设…

2026/7/30 0:00:13 阅读更多 →
如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南 【免费下载链接】VideoDownloadHelper Chrome Extension to Help Download Video for Some Video Sites. 项目地址: https://gitcode.com/gh_mirrors/vi/VideoDownloadHelper 你是否曾经在浏览…

2026/7/30 0:00:13 阅读更多 →
“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

更多请点击: https://intelliparadigm.com 第一章:AI 教师备课辅助 AI 教师备课辅助系统正逐步成为教育数字化转型的核心支撑工具,它并非替代教师,而是通过语义理解、知识图谱与多模态生成能力,将教师从重复性劳动中解…

2026/7/30 0:00:13 阅读更多 →

周新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/29 22:18:20 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/29 14:34:28 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/29 15:00:03 阅读更多 →

月新闻