Spring AI企业级应用实战(4):Chat Memory、会话隔离、持久化与上下文压缩
文章摘要前几篇已经完成Spring AI统一调用层和流式输出。本篇继续实现企业级多轮对话使用MessageChatMemoryAdvisor管理近期消息要求每次请求显式提供conversationId通过PostgreSQL保存完整Chat History与持久化Memory校验租户和用户所有权并在上下文接近预算时生成结构化摘要。最终形成一个支持多实例部署、流式调用、审计和安全删除的会话系统。一、本篇目标完成以下能力创建会话 稳定conversationId 多租户所有权校验 Chat Memory持久化 完整Chat History 同步与流式调用 窗口控制 上下文摘要 清空与删除 可观测性最终链路HTTP请求 → 身份认证 → 会话所有权校验 → 写入Chat History → MessageChatMemoryAdvisor → ChatClient → 模型 → 保存结果 → 更新指标二、项目结构src/main/java/com/zyentor/ai ├── config │ └── ChatMemoryConfig.java ├── conversation │ ├── Conversation.java │ ├── ConversationRepository.java │ ├── ConversationService.java │ └── ConversationController.java ├── history │ ├── ChatMessageRecord.java │ ├── ChatHistoryRepository.java │ └── JdbcChatHistoryRepository.java ├── memory │ ├── MemoryCompactionService.java │ └── ConversationSummary.java ├── service │ └── EnterpriseConversationAiService.java └── security └── UserContext.java三、依赖dependencyManagementdependenciesdependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-bom/artifactIdversion2.0.0/versiontypepom/typescopeimport/scope/dependency/dependencies/dependencyManagementdependenciesdependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-starter-model-deepseek/artifactId/dependencydependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-starter-model-chat-memory-repository-jdbc/artifactId/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-webflux/artifactId/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-jdbc/artifactId/dependencydependencygroupIdorg.postgresql/groupIdartifactIdpostgresql/artifactIdscoperuntime/scope/dependency/dependencies具体Starter名称应以当前Spring AI 2.0.x文档和依赖清单为准。四、配置数据源和模型spring:datasource:url:jdbc:postgresql://localhost:5432/spring_ai_demousername:ai_userpassword:${DB_PASSWORD}ai:model:chat:deepseekdeepseek:api-key:${DEEPSEEK_API_KEY}chat:model:deepseek-v4-flashtemperature:0.2max-tokens:2048生产环境不要把密钥写进仓库。五、配置Chat MemoryConfigurationpublicclassChatMemoryConfig{BeanChatMemorychatMemory(ChatMemoryRepositoryrepository){returnMessageWindowChatMemory.builder().chatMemoryRepository(repository).maxMessages(30).build();}Bean(conversationChatClient)ChatClientconversationChatClient(ChatClient.Builderbuilder,ChatMemorychatMemory){returnbuilder.defaultSystem( 你是企业AI助手。 只能使用当前用户有权访问的上下文。 不得泄露其他用户或租户的信息。 不确定时明确说明。 ).defaultAdvisors(MessageChatMemoryAdvisor.builder(chatMemory).build()).build();}}maxMessages30只是示例生产应通过真实Token分布评测。六、为什么每次请求必须传conversationIdSpring AI 2.0内置Memory Advisor要求显式提供ChatMemory.CONVERSATION_ID调用chatClient.prompt().advisors(spec-spec.param(ChatMemory.CONVERSATION_ID,conversationId)).user(message).call().content();不要使用默认会话也不要把conversationId写死在Advisor Bean中。七、会话表CREATETABLEai_conversation(idVARCHAR(64)PRIMARYKEY,tenant_idVARCHAR(64)NOTNULL,user_idVARCHAR(64)NOTNULL,titleVARCHAR(200),statusVARCHAR(20)NOTNULL,memory_versionBIGINTNOTNULLDEFAULT1,created_atTIMESTAMPNOTNULL,updated_atTIMESTAMPNOTNULL);memory_version可以用于缓存失效摘要版本调试会话重置。八、完整消息表CREATETABLEai_chat_message(idVARCHAR(64)PRIMARYKEY,conversation_idVARCHAR(64)NOTNULL,tenant_idVARCHAR(64)NOTNULL,user_idVARCHAR(64)NOTNULL,roleVARCHAR(20)NOTNULL,contentTEXTNOTNULL,statusVARCHAR(20)NOTNULL,request_idVARCHAR(64)NOTNULL,modelVARCHAR(100),prompt_versionVARCHAR(50),input_tokensBIGINT,output_tokensBIGINT,created_atTIMESTAMPNOTNULL);Chat Memory表只服务模型上下文该表保存完整历史。九、会话创建ServicepublicclassConversationService{privatefinalConversationRepositoryrepository;publicConversationcreate(UserContextuser){InstantnowInstant.now();ConversationconversationnewConversation(conv_UUID.randomUUID(),user.tenantId(),user.userId(),null,ConversationStatus.ACTIVE,1L,now,now);repository.save(conversation);returnconversation;}}tenantId和userId来自认证上下文。十、所有权校验publicConversationrequireOwned(UserContextuser,StringconversationId){returnrepository.findOwned(conversationId,user.tenantId(),user.userId()).orElseThrow(()-newAccessDeniedException(无权访问该会话));}不能只验证会话存在。十一、同步对话服务ServicepublicclassEnterpriseConversationAiService{privatefinalChatClientchatClient;privatefinalConversationServiceconversationService;privatefinalChatHistoryRepositoryhistoryRepository;publicStringchat(UserContextuser,StringconversationId,Stringmessage){conversationService.requireOwned(user,conversationId);StringrequestIdUUID.randomUUID().toString();historyRepository.saveUserMessage(user,conversationId,requestId,message);try{StringanswerchatClient.prompt().advisors(spec-spec.param(ChatMemory.CONVERSATION_ID,conversationId).param(tenantId,user.tenantId())).user(message).call().content();historyRepository.saveAssistantMessage(user,conversationId,requestId,answer,MessageStatus.COMPLETED);returnanswer;}catch(RuntimeExceptionexception){historyRepository.markFailed(conversationId,requestId,exception.getClass().getSimpleName());throwexception;}}}十二、避免长数据库事务模型调用可能持续数秒。不要开启数据库事务 → 写用户消息 → 等模型十几秒 → 写助手消息 → 提交推荐事务1写用户消息 → 模型调用 → 事务2写助手消息或失败状态通过request_id关联两段记录。十三、流式调用publicFluxServerSentEventChatStreamEventstream(UserContextuser,StringconversationId,Stringmessage){conversationService.requireOwned(user,conversationId);StringrequestIdUUID.randomUUID().toString();historyRepository.saveUserMessage(user,conversationId,requestId,message);StringBuilderbuffernewStringBuilder();returnchatClient.prompt().advisors(spec-spec.param(ChatMemory.CONVERSATION_ID,conversationId)).user(message).stream().content().doOnNext(buffer::append).map(chunk-ServerSentEvent.builder(newChatStreamEvent(requestId,delta,chunk)).build()).doOnComplete(()-historyRepository.saveAssistantMessage(user,conversationId,requestId,buffer.toString(),MessageStatus.COMPLETED)).doOnCancel(()-historyRepository.markCancelled(conversationId,requestId,buffer.toString()));}需要继续验证Provider在取消订阅后是否真正终止上游生成。十四、半段回答是否进入Memory用户取消后可能只生成根据你的问题主要有三个方面第一……不建议把这段内容当作完整Assistant消息进入稳定Memory。可选策略取消时不写Memory 完整Chat History保存CANCELLED消息 下一轮提示用户上一轮已中断十五、为什么需要上下文压缩长期会话会不断消耗Token。只扩大Message Window会导致成本上升延迟增加重要信息被噪声淹没超出上下文窗口。推荐上下文结构化摘要 最近若干轮消息 当前RAG证据十六、摘要表CREATETABLEai_conversation_summary(idVARCHAR(64)PRIMARYKEY,conversation_idVARCHAR(64)NOTNULL,tenant_idVARCHAR(64)NOTNULL,summary_versionBIGINTNOTNULL,covered_until_message_idVARCHAR(64)NOTNULL,content JSONBNOTNULL,created_atTIMESTAMPNOTNULL);结构化内容{goal:构建企业RAG方案,facts:[客户使用PostgreSQL,数据不能离开私有云],decisions:[向量存储选择pgvector],openQuestions:[峰值并发尚未确认]}十七、什么时候触发压缩可以使用消息数量阈值 Token预算阈值 会话持续时间 工具事件数量推荐以Token预算为主预计上下文Token 可用历史预算的80% → 触发压缩十八、压缩流程1. 读取上次摘要 2. 读取摘要之后的新消息 3. 生成新结构化摘要 4. 校验Schema 5. 保存summary_version 6. 更新covered_until_message_id 7. 后续Prompt加载摘要和近期消息原始消息不删除用于审计和重新生成摘要。十九、摘要不能替代业务事实模型摘要可能错误。以下信息必须从业务系统实时获取订单状态当前权限余额-审批结果产品库存合同版本。摘要只能作为对话背景不能作为强一致事实来源。二十、会话清空与删除清空模型上下文chatMemory.clear(conversationId);同时增加memory_version使缓存失效。删除会话流程标记DELETING → 删除Memory → 删除摘要和向量记忆 → 处理附件 → 按策略删除或匿名化History → 标记DELETED二十一、监控指标chat_conversation_created_count chat_memory_message_count chat_memory_load_duration chat_memory_clear_count conversation_cross_owner_denied_count summary_generation_count summary_validation_failed_count stream_cancelled_count history_memory_write_mismatch_count二十二、测试场景同一会话连续多轮 同一用户两个窗口 同租户两个用户 两个不同租户 应用重启 请求进入不同实例 流式取消 模型超时 Memory清空 摘要触发 非法conversationId访问最重要的测试是多租户隔离。二十三、本篇完整架构认证用户 → Conversation所有权 → 完整History写入 → 显式conversationId → MessageChatMemoryAdvisor → 持久化Memory Repository → ChatClient → 模型 → 保存状态 → Token预算触发摘要总结生产级Spring AI多轮对话不能只注册一个Memory Advisor。完整方案必须同时解决稳定会话ID 租户与用户隔离 持久化Memory 独立Chat History 流式状态 上下文压缩 审计与删除下一篇将继续实现Spring AI企业级应用实战5Tool Calling、权限校验、幂等与人工确认。

相关新闻

Python异常嵌套日志处理与结构化日志实践

Python异常嵌套日志处理与结构化日志实践

1. 异常嵌套日志的痛点解析在Python项目开发中,异常嵌套场景几乎无处不在。当外层异常捕获内层异常时,传统的日志记录方式往往存在三个典型问题:信息割裂:内层异常被外层捕获后,原始堆栈信息可能被覆盖日志冗余&#x…

2026/10/15 6:58:19 阅读更多 →
系统化调试方法论与高效工具链实践

系统化调试方法论与高效工具链实践

1. 为什么我们需要系统化的调试方法论在十五年的开发生涯中,我见过太多工程师把调试当成碰运气的过程——反复修改代码、盲目添加打印语句、甚至迷信地调整缩进格式。这种低效的调试方式不仅浪费时间,更会掩盖问题的本质。真正高效的调试应该像法医解剖一…

2026/10/7 18:26:58 阅读更多 →
从4K短片《巫魍之灾》拆解影视制作:技术分析与实践指南

从4K短片《巫魍之灾》拆解影视制作:技术分析与实践指南

这次我们来看一个名为《巫魍之灾》的4K画质短片项目。这不是一个技术工具或开源模型,而是一部风格独特、叙事紧凑的独立短片。对于技术创作者和影视爱好者而言,这类高画质、强氛围的短片是极佳的学习和分析素材。本文将重点拆解如何从技术角度欣赏、分析…

2026/10/10 9:40:20 阅读更多 →

最新新闻

Django 5模型层数据库连接实战:从配置到迁移再到ORM优化

Django 5模型层数据库连接实战:从配置到迁移再到ORM优化

Django 5 发布之后,我把手头一个模拟项目从 4.x 升级到了 5.x,前后折腾最久的地方,不是新特性研究,反而是最不起眼的“模型层连接数据库”这一环。很多人觉得连数据库不就是填个配置吗?等真开工就会发现,驱…

2026/10/15 6:59:51 阅读更多 →
天鹰优化算法AO实现多无人机三维协同避障路径规划

天鹰优化算法AO实现多无人机三维协同避障路径规划

1. 从"能飞"到"飞得聪明":多无人机三维路径规划到底难在哪多无人机协同集群避障路径规划,说白了就是让一群无人机从各自的起点出发,在充满山峰、雷达威胁区和禁飞区的三维空间里,找到一条既安全又省油、还能按…

2026/10/15 6:59:51 阅读更多 →
无铜点击化学荧光探针:生物标记技术新突破

无铜点击化学荧光探针:生物标记技术新突破

1. 项目概述:绿色荧光探针的技术突破在生物标记和分子检测领域,荧光探针就像黑夜中的信号灯,能够精准标记目标分子并发出光学信号。传统铜催化点击化学(CuAAC)虽然应用广泛,但铜离子容易导致荧光淬灭&#…

2026/10/15 6:59:51 阅读更多 →
测试工程师数据库操作实战指南:从SELECT到事务与性能排查

测试工程师数据库操作实战指南:从SELECT到事务与性能排查

作为测试工程师,你日常的工作流里有一个绕不开的坎:不管是功能测试、接口测试还是自动化脚本,跑完用例之后总要回到数据库里查一笔数据、改一个状态、造一条测试记录。我见过太多测试同行的日常状态是——业务逻辑和用例设计都很熟练&#xf…

2026/10/15 6:59:51 阅读更多 →
多模态大模型对齐幻觉:检测、缓解与工程实践指南

多模态大模型对齐幻觉:检测、缓解与工程实践指南

1. 从“对齐幻觉”说起:多模态大模型的一个隐蔽陷阱第一次看到“对齐幻觉”这个词,我脑子里蹦出来的不是学术定义,而是一个特别具体的画面:你给一个多模态大模型看一张图,图里是一只猫趴在键盘上,然后问它“…

2026/10/15 6:59:51 阅读更多 →
Windows本地部署SAM3:从环境配置到图像分割Demo全流程实战

Windows本地部署SAM3:从环境配置到图像分割Demo全流程实战

聊一个最近折腾完的活儿:在Windows系统上把SAM3本地部署起来,跑通了一个图像分割demo。如果你对“点一下就把图上物体抠出来”这种能力感兴趣,又不想把图片传到任何在线平台,这篇文章应该正好合适。这里的SAM3,指的是第…

2026/10/15 6:58:51 阅读更多 →

日新闻

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

1. 为什么选择容器化方式部署 LoRa 网络服务LoRa 物联网项目落地时,网络服务器是整个链路的核心枢纽。它负责接收网关上报的数据包、完成去重与解密、再把有效载荷分发给上层应用。早期大家习惯把网络服务器直接装在物理机上,依赖一堆系统库和特定版本的…

2026/10/15 0:00:46 阅读更多 →
共享LLM服务下的跨模型自动扩缩容:Kubernetes实战与避坑指南

共享LLM服务下的跨模型自动扩缩容:Kubernetes实战与避坑指南

1. 共享推理服务里,扩缩容到底难在哪做过大模型推理服务部署的人,大概都经历过这样的场景:一个团队共用一套推理集群,A 业务跑的是 7B 的小模型,B 业务跑的是 72B 的大模型,C 业务白天流量高、晚上几乎归零…

2026/10/15 0:00:46 阅读更多 →
Systemd 启动阶段根文件系统只读之谜:fstab 与 remount-fs 服务深度解析

Systemd 启动阶段根文件系统只读之谜:fstab 与 remount-fs 服务深度解析

1. 引子:一次内核恐慌引发的追查先从一个真实场景说起。某次我给一台老旧的嵌入式设备折腾系统裁减,为了把启动时间压进两秒以内,我手贱地把一串自认为“没用”的 systemd 服务给 disable 了,其中就包括systemd-remount-fs.servic…

2026/10/15 0:00:46 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/14 3:30:28 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/14 16:30:29 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/14 3:29:58 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 0:14:36 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 22:45:47 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 7:53:34 阅读更多 →