Lemmalog:让LLM的“记忆”变成可验证的引理
做过程序分析的人应该都体会过一种矛盾传统工具能精确告诉你“这条数据流从第几行走到了第几行”但它说不清这个风险在真实业务里到底重不重要LLM 能像资深同事一样一眼指出“这个 SQL 看着像注入”但它给不出可复现的证据链而且换个上下文结论可能就变了。Lemmalog 想做的是把两者缝合起来。它不是用 LLM 替代 CodeQL 或 Semgrep也不是在传统分析工具外面套一层聊天界面。它的核心思路是把 LLM 分析代码时产生的“记忆”——中间判断、可疑点、语义猜测——结构化地记录成一条条“引理”再交给程序分析器去验证。验证过的结论才会进入 CI/CD没验证过的只能算假设。这篇文章会完整拆解 Lemmalog 的诞生思路它解决什么问题底层架构怎么设计一个最小可运行的示例怎么做以及落地时有哪些常见的坑。1. 为什么 LLM 做程序分析总差一口气1.1 传统静态分析精确但笨重传统程序分析工具的强项是确定性和可复现性。同一份代码用同一套规则跑一遍结果一定一样。它很擅长回答“某条数据是否从 A 点流到了 B 点”这类问题因为有符号执行、污点分析、指针分析等系统性方法支撑。但这样的精确性需要付出代价规则要有人写路径要有人维护。中大型系统里Spring 的注解映射、反射调用、框架隐式传参都会让规则变得脆弱。Semgrep 规则可能很容易识别RequestParam注解但如果参数被封装成自定义对象字段名和 HTTP 参数名之间存在映射关系规则库就需要额外建模。所以传统分析更像一台精密的仪器你能得到准确读数但前提是你知道要量什么并且愿意持续校准这台仪器。1.2 LLM聪明但记不住LLM 对代码的理解方式完全不同。它能阅读大段代码理解注释、命名、调用关系甚至结合 README 推断业务意图。这让它在“发现可疑点”这件事上非常高效。比如一个函数叫parse_user_input内部直接用 f-string 拼 SQLLLM 会非常自然地给出“SQL 注入”的假设并解释理由。但问题也在这里。第一LLM 不会自动区分“发现了问题”和“证明了问题”。它的输出天然带概率性即使 confidence 是 0.9也不代表那条路径真实存在。第二它没有持久记忆。每次分析都是独立的上下文无法积累一个项目的历史判断也无法在代码变更后对比“之前这个函数是安全的这次改动引入了风险”。第三它在大型代码库上的分析质量不稳定。你给它一个 10 万行的仓库它很容易只盯着几个片段忽略全局约束。1.3 两者的鸿沟传统程序分析是“精确定位但不知道意义”LLM 是“知道意义但无法证明”。理想方案自然是让 LLM 提供假设让传统分析负责验证。这正是 Lemmalog 的出发点。2. Lemmalog 核心思路把记忆变成可验证的引理“记忆”这个词值得停下来想一想。LLM 本身并非没有记忆Transformer 的 Attention 机制在一次请求中会记住前文但这种记忆是短期的而且完全随请求结束而消失。程序分析需要的是能跨文件、跨版本、跨工具复用的外部记忆。Lemmalog 借用逻辑学里的“引理”概念。一条引理是一个中间结论它的成立需要前提它的价值在于可以被后续推理重复使用。程序分析里我们可以把 LLM 的每一条判断都视为一条引理例如“name 变量来自外部请求参数”“query 字符串会被拼进 SQL 语句”“该函数在业务层没有白名单校验”这些引理合在一起就可以推断出“存在 SQL 注入风险”。2.1 什么是引理通俗地讲引理就是你推导最终结论时用到的“中间小结论”。它不是最终报告也不是原始数据而是经过一轮语义提炼后的假设。程序分析的最终结论需要由多条中间事实支撑。如果每条中间事实都能被记录和验证最终结论就有了可回溯的证据链。这就是把 LLM 判断变成引理的价值。Lemmalog 里的引理被设计成一条 JSON 记录包含文件、实体、结论、类型、严重程度、置信度和验证状态{ id: LEMMA-001, file: sample.py, entity: function:parse_user_input, claim: name 是外部输入可能造成 SQL 注入, kind: security, severity

相关新闻

《代码随想录》刷题打卡day36:动态规划-part09

《代码随想录》刷题打卡day36:动态规划-part09

【188. 买卖股票的最佳时机 IV】 思路&#xff1a; 和上一题一样&#xff0c;从2次交易变成了k次交易。 注意dp[0] [j]当j为奇数的时候都初始化为 -prices[0] class Solution { public:int maxProfit(int k, vector<int>& prices) {int len prices.size();vecto…

2026/11/16 3:40:29 阅读更多 →
智能燃气灶深度拆解:从语音控制到防干烧的安全技术指南

智能燃气灶深度拆解:从语音控制到防干烧的安全技术指南

厨电智能化已经不算新鲜事了&#xff0c;但真正把“智能”做到实用的产品并不多。最近在帮朋友挑选燃气灶时&#xff0c;仔细研究了一下火王智能灶这款产品&#xff0c;发现它把语音控制、智能关火、防干烧、定时、大火力这些功能整合到了一起&#xff0c;和传统燃气灶相比&…

2026/11/16 3:40:30 阅读更多 →
基于STM32的全自动节水灌溉系统:从传感器选型到状态机实现

基于STM32的全自动节水灌溉系统:从传感器选型到状态机实现

简介&#xff1a;本资源是一套完整的基于STM32的全自动节水灌溉系统毕业设计实现方案&#xff0c;面向计算机、自动化、通信及人工智能等相关专业学生与教师&#xff0c;解决农业物联网场景下土壤湿度感知、智能启停灌溉、远程数据上报等核心问题&#xff0c;适用于课程设计、大…

2026/11/17 23:46:33 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年&#xff0c;我大部分时间都在跟浏览器标签页打交道&#xff0c;直到第一次把桌面应用跑起来&#xff0c;才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词&#xff0c;最开始是在某段时间频繁出现在同事的讨论里&#xff0c;一个用HTML…

2026/11/20 23:27:28 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介&#xff1a;亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档&#xff0c;主要面向智能锁安装人员、终端用户及售后维护者&#xff0c;帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件&#xff0c;大小4.37MB&#xff0c;内容结构清晰&#xff…

2026/11/20 23:27:28 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统&#xff0c;整车要求空载跑到8m/s&#xff0c;电机转速已经拉到额定点&#xff0c;驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令&#xff0c;转速纹丝不动&#xff0c;三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/20 23:27:28 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年&#xff0c;用它写过嵌入式驱动、做过游戏服务端&#xff0c;也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词&#xff0c;我其实挺感慨的——这门语言的难点从来不是语法多&#xff0c;而是知识点之间的耦合太深…

2026/11/20 21:55:32 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介&#xff1a;亚太天能T109滑盖智能锁产品说明书以PDF格式发布&#xff0c;适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开&#xff0c;先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能&#xff0c;再给出完整安装步骤&…

2026/11/20 23:27:28 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历&#xff1a;翻开源码注释、论文摘要或者一份专业报告&#xff0c;每个字都认识&#xff0c;连在一起却像天书。想找人聊聊&#xff0c;身边要么没人懂&#xff0c;要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型&#xff0c;几秒钟之后&a…

2026/11/20 22:59:12 阅读更多 →

日新闻

周新闻

月新闻