面试官:AI 回答要逐字出来,用户还能随时打断,这个接口怎么设计?
面试官把一段需求投到屏幕上“用户发送问题后答案要逐字出现点下停止后台也必须马上停。以后还可能增加实时语音。接口怎么设计”候选人答“用 WebSocket实时需求都走一条长连接。”面试官追问“回答明明是服务端单向推送停止也只是一次指令。为什么一上来就维护全双工连接用户关掉前端连接后台模型就真的停了吗”这道题考的不是会不会报协议名而是能不能把一个“实时需求”拆成几条职责不同的链路。一、这个需求其实要拆成三条链路第一条是提交问题。浏览器通过 POST 创建一次生成任务服务端返回run_id。这个编号会贯穿后续输出、取消和状态查询。第二条是接收答案。可以让原生 EventSource 发起 GET 订阅 SSE也可以让 Fetch 直接读取 POST 的流式 HTTP 响应响应内容仍然可以采用 SSE 事件格式。第三条是停止生成。前端先关闭当前流或调用 AbortController停止继续接收同时再向服务端发送POST /runs/{id}/cancel让后台真正取消模型生成和后续工具调用。这里最容易漏掉一句停止接收不等于停止执行。浏览器断开后如果服务端没有处理取消信号模型可能仍在生成工具也可能继续运行费用和副作用都还在发生。二、答案逐字出来为什么优先考虑 SSE这个场景的数据方向很清楚服务端不断产生内容浏览器持续接收。“逐字出现”只是界面效果网络通常按文字片段传输。SSE 建立在普通 HTTP 响应上事件可以区分为text_delta、tool_status、error和done排查问题时也容易看懂。这里要分清层级SSE 是事件流机制EventSource 和 Fetch 是浏览器接收它的方式。原生 EventSource 适合 GET 订阅提供自动重连和事件 IDFetch 支持 POST、请求体和自定义请求头更灵活但重连、续传通常要由应用自己实现。所以大模型“逐字输出”并不天然需要 WebSocket。POST 负责发命令EventSource 或 Fetch 负责接收流式结果已经能覆盖大多数文字问答。三、用户能打断也不代表必须用 WebSocket“停止”看起来很实时本质上仍可能只是一条低频命令。一次 POST 取消接口足够而且更容易做鉴权、重试和审计。POST 本身不保证幂等取消接口要在业务上按run_id保证。第一次调用返回cancelling后前端再通过GET /runs/{id}查询直到任务进入cancelled。如果任务已经是completed或failed取消接口只能返回原终态不能强行改写重复取消也不能再次触发取消或补偿。如果任务正在调用外部工具还要定义取消边界未开始的步骤可以不再执行已经发出的付款、发信或删除请求可能成功、失败也可能结果未知不能因为前端点了停止就假装撤回。系统需要查询最终结果必要时执行单独且防重复的补偿操作。四、SSE 上线后最容易踩的三个坑第一个坑是连接数。SSE 在 HTTP/1.1 上也能运行但多标签页、多会话并发时浏览器同域连接预算会很紧这时优先考虑 HTTP/2利用多路复用让多条流共享一个连接。第二个坑是“服务端在发页面却半天不出字”。Nginx、网关或 CDN 可能缓存一批数据后再交给浏览器需要检查整条链路的响应缓冲并通过心跳避免空闲连接被中间层关闭。第三个坑是断线续传。事件带id只是起点服务端还要保留一段可重放的数据根据Last-Event-ID补发客户端负责去重并处理历史已经过期的情况。五、什么时候才真正需要 WebSocket当双方都要频繁主动发消息时WebSocket 才更合适。比如多人协同编辑、游戏操作、远程设备控制或者 AI 在执行中不断向用户追问用户又持续发送新的控制事件。代价是应用要自己补齐消息类型、请求编号、确认、幂等、心跳、重连、补发和背压。不能只说“WebSocket 是双向的”就把这些工程问题一起跳过。六、如果以后增加实时语音呢上传录音文件用 HTTP 就够了简单的客户端—AI 服务音频流也可以用 WebSocket 传二进制数据。只有产品开始追求通话级低延迟、弱网下的抖动和丢包处理、回声消除与网络穿透时才值得引入 WebRTC。WebRTC 负责媒体传输但建立会话时交换信令仍然经常要借助 HTTP 或 WebSocket。面试里点到这个边界即可不需要把整道题带成音视频协议题。七、面试官追问30 秒怎么答我会先把需求拆成提交、输出和取消三条链路。POST 创建任务并返回run_id答案是服务端单向流优先用 SSE或者直接读取 Fetch 流用户点击停止时前端中断读取同时调用幂等的取消接口确认后台任务真的进入cancelled。多标签页或多会话时再考虑用 HTTP/2 承载 SSE并处理代理缓冲、心跳和断线重放。只有双方需要频繁主动通信时才上 WebSocket以后增加通话级实时语音再引入 WebRTC。面试官真正想听的不是你选了哪条连接而是每条连接到底负责什么。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相关新闻

VMware vCenter 漏洞扫描与入侵防御实战教程(含检测脚本+攻防链路)

VMware vCenter 漏洞扫描与入侵防御实战教程(含检测脚本+攻防链路)

摘要:vCenter作为企业虚拟化架构的核心管控节点,一旦被攻击者突破,可直接接管全网ESXi主机、虚拟机业务、存储资源,完成内网全域渗透。目前公网与内网中,针对vCenter的自动化扫描、漏洞批量利用攻击持续高发&#xff0…

2026/10/25 2:57:03 阅读更多 →
沉浸式翻译:终极双语网页翻译扩展完整指南

沉浸式翻译:终极双语网页翻译扩展完整指南

沉浸式翻译:终极双语网页翻译扩展完整指南 【免费下载链接】immersive-translate 沉浸式双语网页翻译扩展 , 支持输入框翻译, 鼠标悬停翻译, PDF, Epub, 字幕文件, TXT 文件翻译 - Immersive Dual Web Page Translation Extension 项目地址…

2026/10/25 18:54:01 阅读更多 →
AH8679 100V高耐压——为48V系统留足安全裕度

AH8679 100V高耐压——为48V系统留足安全裕度

AH8679|100V 高耐压 —— 为 48V 系统留足安全裕度一、描述:l35-38o6-7573v芯片AH8679 是一款5‑100V 宽输入内置 MOS 降压 DC‑DC 芯片,ESOP‑8 封装,连续输出 2A、峰值开关电流 3.5A,最高 1MHz 开关频率,…

2026/10/24 6:06:12 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/10/26 12:00:21 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/10/25 22:36:10 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/10/26 4:52:12 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/10/26 12:00:21 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/10/26 5:00:37 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/10/26 3:16:46 阅读更多 →

日新闻

周新闻

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/26 12:00:19 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/25 13:21:54 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/26 8:34:37 阅读更多 →