文章目录前言1.1 只说Prompt分类会踩三个致命硬伤二、生产级标准答案三层分层路由架构面试官一听眼前一亮2.1 第一层规则匹配极速过滤简单请求2.2 第二层Embedding语义召回大幅缩小候选范围2.3 第三层LLM精排分类附带置信度兜底澄清三、面试官继续深挖这套架构还能怎么优化3.1 全链路Trace日志问题可完整回放3.2 线上观测大盘实时捕捉异常波动3.3 离线评测体系量化识别效果好坏3.4 长期基准数据集版本上线回归测试四、面试收尾一分钟满分总结话术P.S. 目前国内还是很缺AI人才的希望更多人能真正加入到AI行业共同促进行业进步增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 http://blog.csdn.net/jiangjunshow教程通俗易懂高中生都能看懂还有各种段子风趣幽默从深度学习基础原理到各领域实战应用都有讲解我22年的AI积累全在里面了。注意教程仅限真正想入门AI的朋友否则看看零散的博文就够了。前言大厂面AI智能体岗位十有八九会抛一句灵魂拷问Agent意图识别你打算怎么做我旁观过几十场面试见过无数技术人光速出局。上来标准答案一模一样把所有意图和描述塞进提示词丢给大模型吐个标签完事。面试官表面点头内心已经开始写拒信。后面连环追问一抛当场卡壳本轮面试直接提前结束。就像你去饭店应聘大厨老板问你怎么做宴席你说开水煮泡面简单省事你猜老板留不留你很多人以为是自己知识点不够其实根本不是。你拿玩具Demo的思路应对线上百万级流量系统换谁是面试官都不会要。1.1 只说Prompt分类会踩三个致命硬伤线上企业Copilot动辄几十套Agent每套内置几十条意图全塞进提示词等于灾难现场。第一个坑Token直接爆炸。单条意图描述300token100条就是3万token。用户只问一句查天气先传三万文字给模型计费后台看了都得连夜找你谈话。第二个坑意图越堆识别越拉胯。查天气、未来预报、空气质量这种高度相似的标签模型很容易混淆准确率肉眼可见下跌。做业务的最忌讳边界模糊的意图设计。第三个坑识别错了无兜底。模型又不是神仙总会判断跑偏你只输出标签低置信度也硬走流程业务出问题谁背锅总不能甩锅大模型幻觉吧。二、生产级标准答案三层分层路由架构面试官一听眼前一亮真正能拿高分的回答核心思路是多阶段意图路由不一次性把全部意图丢给模型层层筛选平衡成本、速度、准确率。举个生活化例子用户输入“苹果多少钱”这句话歧义拉满能指水果、苹果股票、iPhone手机。直接全量意图丢给模型十有八九判错。分层流程完美规避这个问题。2.1 第一层规则匹配极速过滤简单请求靠正则、关键词、黑白名单做硬匹配专门处理固定话术。用户直接打“天气预报”“联系客服”规则一秒命中不用调用大模型。这一层相当于商场门口的导购一眼分清问路的和深度采购的简单需求就地解决不用带进内场消耗资源。省token省耗时性价比直接拉满。规则没命中再往下走语义环节。2.2 第二层Embedding语义召回大幅缩小候选范围这层是整套架构省钱神器核心作用初筛过滤无关意图。系统存500条意图全部丢给模型开销巨大。先用向量计算用户语句和所有意图的相似度只捞出Top5最相关候选。相当于网购搜商品先筛掉十万八千里不相关的垃圾商品只留五款给你细挑不用逐一看完所有店铺时间金钱双节约。只保留少量候选意图交给大模型做最终判断。2.3 第三层LLM精排分类附带置信度兜底澄清模型只需要对比召回的少量意图输出三项关键内容最终意图标签、置信度分数、判断理由。分支处理逻辑置信度高于80%直接路由对应Agent执行业务置信度偏低禁止擅自猜测触发澄清流程反问用户确认。还是那句“苹果多少钱”模型置信度只有55%系统不能硬判得主动问你想问水果苹果、苹果公司股价还是iPhone售价别指望模型读懂所有潜台词主动澄清看似多一轮对话实则规避大量业务投诉线上系统必须有这一步兜底。整套三层逻辑总结一句话规则提速向量降本模型精判低置信澄清兜底。三、面试官继续深挖这套架构还能怎么优化能答完分层路由只能算及格想拿高薪offer必须说出完整线上迭代闭环。成熟Agent平台不会只做一次分类还要配套观测、评测、回归测试整套体系。3.1 全链路Trace日志问题可完整回放每一条用户请求完整记录整条决策链路原始输入、向量召回结果、传给模型的提示词、模型输出、路由Agent、调用工具、最终回复。用户反馈识别错误不用盲猜故障点。拉一条Trace就能定位是向量没召回正确意图还是提示词描述模糊或是置信度阈值设置不合理没有完整日志排查问题等同于修车没有故障检测仪全靠蒙线上运维能把人熬秃。3.2 线上观测大盘实时捕捉异常波动搭建可视化监控面板持续采集核心指标每秒请求量、各模块延迟、token消耗、超时重试、澄清请求占比、降级次数。某一天澄清率突然暴涨不用等用户投诉就能提前预警。排查方向很清晰新增混淆意图、提示词改版、向量模型更新出问题早发现早修复。监控不是花架子是线上系统的体温计指标一异常立刻知道哪里发烧。3.3 离线评测体系量化识别效果好坏定时从线上日志抽样真实用户query人工标注搭配大模型辅助标注生成标准真值数据集。用最新路由脚本跑一遍计算准确率、精确率、召回率、F1值。这套评测能精准揪出容易混淆的意图、高频误判语句给后续优化指明方向。3.4 长期基准数据集版本上线回归测试维护一套长期基准样本库覆盖错别字、口语、中英混输、歧义句、未知意图、超长文本各类场景。只要修改提示词、新增意图、更换向量/大模型必须完整跑一遍基准数据集。确认精度不下跌、成本可控新版本才能上线。不做回归测试就更新线上代码好比开车不做年检上路随时抛锚出事故。完整闭环链路线上日志沉淀数据→离线评测分析短板→基准数据集回归验证→新版本灰度上线。四、面试收尾一分钟满分总结话术基础Demo方案仅适合少量意图场景直接把全部意图放入提示词交给大模型分类。生产环境采用多阶段意图分层路由先用规则匹配快速处理固定请求向量召回缩小候选意图范围大模型做精准分类并输出置信度低置信度主动澄清用户避免误路由。同时配套完整工程闭环全链路日志回溯定位故障、线上监控实时预警异常、离线评测量化模型能力、长期基准数据集保障迭代不退化。Agent意图识别从来不是简单调大模型API、写几句提示词的小事是一套兼顾成本、性能、准确率、可持续迭代的完整系统工程。能把这套逻辑说完整面试官直接判定你具备真实线上Agent落地经验和只会跑Demo的新手拉开巨大差距。P.S. 目前国内还是很缺AI人才的希望更多人能真正加入到AI行业共同促进行业进步增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 http://blog.csdn.net/jiangjunshow教程通俗易懂高中生都能看懂还有各种段子风趣幽默从深度学习基础原理到各领域实战应用都有讲解我22年的AI积累全在里面了。注意教程仅限真正想入门AI的朋友否则看看零散的博文就够了。