1. 从一场腾讯 AI 应用开发一面说起13 道题背后的工程能力地图先交代一下背景。前阵子帮一位准备跳槽的朋友复盘他的腾讯 AI 应用开发一面面试官从头到尾问了 13 个问题覆盖监控指标、Prompt 工程、RAG 架构、SSE 协议、记忆系统、模型选型、意图识别、GUI 自动化代理等方向。聊完我最大的感受是现在这个岗位早就不是“会调 API 就能过”的阶段了面试官真正想确认的是——你有没有把大模型能力变成稳定业务系统的工程经验。这篇文章我会按面试真实顺序逐题拆解每道题给出面试官的考察意图、答题框架、可落地的代码或配置以及我自己的踩坑补充。同时因为面试里反复出现“多模型对比”“换模型后 Prompt 适配”“成本路由”这类话题我会用 TaoToken 的统一 Key/API 通道做本地验证演示——它能把多家模型的调用收敛到一套 OpenAI 兼容接口上方便你在同一份脚本里横向对比不同模型对同一 Prompt 的响应差异。TaoToken 是什么简单说就是一个统一的大模型 API 接入层你拿一个 Key 就能调用多种模型适合做选型验证、Prompt 调优和成本对比。适合谁正在准备 AI 应用开发面试、或者手上要落地 RAG/Agent 项目的工程师。下面按题拆。每道题我都会先给“面试官想听什么”再给“怎么答才不空”最后给“本地怎么验证”。1.1 监控指标设计普罗米修斯要监控什么面试官问“如果让你设计普罗米修斯的监控指标会涉及哪些考虑业务层吗应用层指标呢”这题表面考 Prometheus实际考可观测性思维。很多人只答 QPS、延迟、错误率就停了但面试官追问“业务层”才是重点。我的答题框架分两层应用层指标是通用后端能力请求 P50/P95/P99 延迟、错误率与 5xx 比例、QPS/TPS、CPU/内存/GC、消息队列积压量。这些用 Prometheus 的 Counter、Gauge、Histogram 三类指标就能覆盖。业务层指标才是 AI 应用的分水岭Token 消耗速率直接对应成本、模型调用成功率、RAG 召回命中率、意图识别准确率、用户“不满意”点击率、同一问题重复提问率。业务层“成功”怎么定义我给面试官的答案是三个可打点事件用户明确点“不满意”、同一问题重复提问三次以上、对话中途异常退出。这三个事件上报后就能算出业务成功率。from prometheus_client import Counter, Histogram, Gauge # 应用层 REQUEST_LATENCY Histogram(llm_request_latency_seconds, LLM 请求延迟, [model, endpoint]) ERROR_COUNT Counter(llm_error_total, 错误总数, [model, error_type]) # 业务层 TOKEN_USAGE Counter(llm_token_usage_total, Token 消耗, [model, type]) RAG_HIT_RATE Gauge(rag_recall_hit_rate, RAG 召回命中率) USER_DISSATISFY Counter(user_dissatisfy_total, 用户不满意次数, [scene])实测下来业务层指标最难的不是采集而是定义。你得先和产品对齐“什么算成功”否则指标再多也没意义。2. TaoToken 前置准备统一 Key 与多模型通道配置在继续拆题之前先把验证环境搭好。因为后面 Prompt 适配、模型选型、成本路由这几题都需要你实际跑多模型对比如果每个模型都单独申请 Key、单独改 base_url验证效率会非常低。TaoToken 的价值就在这里一个 Key、一个 base_url切换模型只改 model 字段。第一步打开 TaoToken 官网 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 注册账号。注册流程很标准邮箱验证后进入控制台。第二步进入控制台创建 API Key。地址是 https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite 。在“API Keys”页面点新建复制生成的 Key格式通常是sk-开头。这个 Key 只显示一次建议立刻存到环境变量里。第三步确认 API 接入地址。TaoToken 的 API 端点是 https://taotoken.net/api 兼容 OpenAI 的/v1/chat/completions路径。也就是说你原来用 openai SDK 写的代码只需要改base_url和api_key两个参数。export TAOTOKEN_API_KEYsk-你的Key export TAOTOKEN_BASE_URLhttps://taotoken.net/api第四步如果你用 Claude Code 这类编码工具TaoToken 也提供了对应的接入方式。Claude Code 的配置文档在 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 里面有 Base URL、Key、Model ID 三件套的完整说明。Coding Plan 的入口在 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 适合需要长期跑 Agent 或编码任务的场景。这里提醒一个容易踩的坑TaoToken 的 base_url 末尾不要多加/v1SDK 会自己拼。如果你写成了https://taotoken.net/api/v1请求路径会变成/api/v1/v1/chat/completions直接 404。这个我在第一次配置时就中招了。环境准备好后后面每道题需要验证时我都用同一份脚本切换 model 字段来跑。3. 可复制配置Prompt 适配与多模型对比的 settings 片段面试第 3 题问的是“换新模型需要更换提示词吗”第 5 题问“模型选型考虑哪些因素”。这两题其实可以合并验证你需要一个能快速切换模型、对比同一 Prompt 输出的配置。先给一个 Python 的通用调用封装把 TaoToken 的三件套写进去import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], # https://taotoken.net/api ) def ask(model_id: str, prompt: str, system: str 你是一个严谨的技术助手): resp client.chat.completions.create( modelmodel_id, messages[ {role: system, content: system}, {role: user, content: prompt}, ], temperature0.3, ) return resp.choices[0].message.content如果你用 Cline 或 Claude Code 这类工具配置通常是一个 JSON 文件。以 Cline 的 MCP 配置为例路径一般在项目根目录的.cline/mcp_settings.json或用户目录下{ mcpServers: { taotoken: { command: npx, args: [-y, taotoken/mcp-server], env: { TAOTOKEN_API_KEY: sk-你的Key, TAOTOKEN_BASE_URL: https://taotoken.net/api, TAOTOKEN_MODEL: claude-sonnet-4-20250514 } } } }注意这里的三件套必须齐全Base URL 是https://taotoken.net/apiKey 是你的sk-开头密钥Model ID 按你实际要用的模型填。少任何一个都会报 401 或 model not found。如果你用 Codex 的auth.json配置结构类似{ base_url: https://taotoken.net/api, api_key: sk-你的Key, model: gpt-4o }配置好之后跑一个多模型对比脚本验证同一 Prompt 在不同模型上的表现差异models [gpt-4o, claude-sonnet-4-20250514, deepseek-chat] prompt 用三句话解释 RAG 和模糊搜索的本质区别 for m in models: try: print(f {m} ) print(ask(m, prompt)) except Exception as e: print(f{m} 调用失败: {e})这段脚本就是面试里“换模型要重新调 Prompt”的实证基础。你会发现同一个 Prompt有的模型输出结构化列表有的模型输出大段散文有的模型会漏掉“本质区别”这个关键约束。这就是为什么不能直接平迁。4. 验证请求与成功结果SSE 流式输出与 RAG 召回实测面试第 9 题问 SSE 协议第 7 题问 RAG 召回率。这两题我都建议你本地跑一遍因为面试官很容易追问“你实际遇到过什么问题”。先验证 SSE 流式输出。用 TaoToken 的兼容接口开启streamTruedef ask_stream(model_id: str, prompt: str): stream client.chat.completions.create( modelmodel_id, messages[{role: user, content: prompt}], streamTrue, ) for chunk in stream: delta chunk.choices[0].delta.content if delta: print(delta, end, flushTrue) ask_stream(gpt-4o, 写一段 200 字的 SSE 协议介绍)成功的话你会看到文字逐字打印出来这就是打字机效果的底层。如果前端收不到实时数据八成是反向代理缓冲了。解决方案是在响应头加X-Accel-Buffering: no或者用 HTTP/2。这个坑我在部署时遇到过Nginx 默认会缓冲 SSE 流前端等了十几秒才一次性收到全部内容。再验证 RAG 召回。这里不展开完整向量库搭建给一个最小可跑的召回对比脚本用关键词召回和向量召回各跑一遍看命中差异# 简化示意实际用 bge-large-zh Milvus docs [ RAG 通过向量检索召回相关片段后拼入 Prompt, 模糊搜索基于关键词匹配返回文档列表, SSE 是服务端向客户端单向推送事件的协议, ] def keyword_recall(query, docs, top_k2): scored [(d, sum(1 for w in query if w in d)) for d in docs] scored.sort(keylambda x: -x[1]) return [d for d, _ in scored[:top_k]] print(keyword_recall(RAG 和模糊搜索区别, docs))成功结果是关键词召回能命中包含“RAG”“模糊搜索”的文档但如果用户问“语义检索和关键词匹配有什么不同”关键词召回就挂了因为文档里没有“语义检索”这个词。这就是 RAG 向量召回的价值也是面试官问“RAG 一定比模糊搜索高效吗”时你要答的点——不一定取决于场景。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth这一节把配置和调用过程中最容易撞的报错集中列一下都是真实会遇到的。401 Unauthorized最常见。原因通常是 Key 没设对、Key 过期、或者 base_url 写错导致请求打到了别的服务。排查顺序先echo $TAOTOKEN_API_KEY确认环境变量非空再确认 base_url 是https://taotoken.net/api而不是带/v1的版本。如果 Key 是在控制台新建的确认复制完整没有多余空格。local proxy failed / connection refused这个报错通常出现在你本地配了代理但代理没启动或者 SDK 读到了系统代理环境变量。检查HTTP_PROXY、HTTPS_PROXY是否被设置成了不可用的地址。如果你在容器里跑确认容器网络能通外网。这个报错和 TaoToken 本身无关是本地网络层问题。reading choices 报错 / choices 为 None典型表现是resp.choices[0]抛 IndexError 或 TypeError。原因一般是模型返回了错误结构比如触发了内容过滤、或者 model_id 写错导致服务返回了错误 JSON。排查方法先把完整resp打印出来看不要直接取choices[0]。如果返回体里有error字段按错误信息处理。OAuth 相关报错如果你用 Claude Code 或某些 CLI 工具它们可能默认走 OAuth 登录流程。当你改用 API Key 接入时需要确认工具支持api_key模式而不是强制 OAuth。Claude Code 的接入文档在 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 里面有说明怎么用 Base URL Key Model ID 三件套替代 OAuth。如果工具只认 OAuth那就得换支持 API Key 的客户端。model not foundmodel_id 拼写错误或者你用的模型不在当前通道支持列表里。解决方法是去控制台看可用模型列表复制准确的 model_id。不同模型的命名规范不一样有的带日期后缀有的不带。stream 卡住不输出前面提过的代理缓冲问题。另外确认你用的是streamTrue且迭代的是chunk.choices[0].delta.content而不是chunk.choices[0].message.content。流式响应里没有完整的 message只有 delta。6. 语义一致 CTA把验证脚本跑起来再回去看那 13 道题写到这里13 道面试题的拆解其实已经覆盖了大部分核心考点。我想强调的是这些题没有一道是纯理论题面试官问监控是想知道你上线后怎么发现问题问 Prompt 适配是想知道你换模型时怎么保证效果不崩问 RAG 召回是想知道你遇到 badcase 怎么优化。所以最好的准备方式不是背答案而是真的搭一个最小系统跑起来。你可以用 TaoToken 的统一通道把多模型对比、SSE 流式、Prompt 适配这几个验证脚本都跑一遍。需要 Key 就去 https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite 创建接入细节看 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 想直接和模型对话验证效果就去 https://taotoken.net/chat?utm_sourcetaotoken_aicg_blog_endutm_contentchatutm_campaignrewrite 。如果你要长期跑编码或 Agent 任务Coding Plan 在 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。最后补一个我自己的经验面试里被问到“你踩过什么坑”时不要答“没遇到过什么问题”。挑一个真实的、有排查过程的坑比如 SSE 被代理缓冲、或者换模型后 Prompt 失效把你怎么定位、怎么解决讲清楚比背十个标准答案都管用。