Persome屏幕捕获管线深度解析:Accessibility事件、本地OCR与截图加密存储
【免费下载链接】personal-modelBuild your HUMAN.md.项目地址https://gitcode.com/gh_mirrors/pe/personal-model点击查看免费下载Persome开源项目 personal-model的屏幕捕获管线是整座个人模型的眼睛它通过 macOS Accessibility 事件感知你的窗口切换与输入用本地 OCR 兜底读取无法获取文字的应用并用 AES-256-GCM 加密存储截图最终把每一次屏幕观察沉淀为构建HUMAN.md的证据链。一、捕获管线在 Persome 中的位置Persome 把活动数据组织成由浅入深的五层结构Point带来源的观察、Line随时间的关系、Face被证据支持的图案、Volume跨项目的更高阶结构、Root你当前整合后的个人模型。而屏幕捕获Capture是唯一直接接触外部世界的层——它每次观察生成一个 JSON 文件写入~/.persome/capture-buffer/上层模块从不直接触碰 macOS。这正是如何把屏幕活动变成个人模型这条链路的第一环官方说明见 docs/capture.md。二、两个信号源事件驱动 心跳兜底管线由两种信号共同驱动代码位于 src/persome/capture/watcher.py 与 src/persome/capture/scheduler.py信号源工作方式适用场景mac-ax-watcher主力事件驱动一个随包分发的 Swift 可执行文件订阅所有运行中应用的 Accessibility 通知窗口聚焦、内容变化打字、标题变化、应用激活每个事件输出一行 JSON精确捕捉你正在做什么心跳定时器兜底每heartbeat_minutes默认 10 分钟强制触发一次捕获长时间空闲也留下痕迹事件流随后进入 src/persome/capture/event_dispatcher.py 做语义分类AXFocusedWindowChanged窗口切换、UserMouseClick点击→立即捕获AXValueChanged内容变化如打字→3 秒防抖后才捕获避免每敲一个键截一帧AXTitleChanged标题变化→直接跳过噪声太大三、四层去重把事件洪水变成有效观察事件源天生高噪。Persome 用四个时间维度的旋钮层层过滤再叠加一个内容维度的指纹去重防抖默认 3 秒窗口内的AXValueChanged事件合并只触发一次事件去重1 秒相同(事件类型, 应用)对在窗口内直接丢弃最小捕获间隔2 秒任意两次捕获之间的硬性下限同窗口去重5 秒同一应用同标题窗口的非聚焦事件合并聚焦切换永远放行最关键的是内容指纹去重调度器对每次构建的捕获计算hash(bundle title focused_element visible_text url)与上一次相同就直接不写盘。这能抓住时间旋钮抓不住的场景——锁屏过夜、暂停的视频、闲置的 IDE 会无限产生同样内容的 AX 事件没有内容去重缓冲区会被撑爆当前会话也永远无法闲置收尾。默认配置下一个工作日产生几百条捕获足够构建模型又不浪费磁盘。四、capture_once一次捕获的完整七步所有信号最终汇入capture_once定义于 src/persome/capture/scheduler.py一次捕获依次执行调用一次性mac-ax-helper抓取当前窗口的 Accessibility 树按ax_depth剪枝从 AX 树提取focused_element光标所在元素、visible_text屏幕上正在读的内容约 10k 字符上限、url若前台是 cmux 终端通过本地 socket RPC 注入真实终端文本OCR 兜底AX 树读不出可用内容时对聚焦窗口截图并提交本地 OCR 工作进程截图除非include_screenshot false记录应用名、标题、bundle_id以 ISO-8601 时间戳命名写入缓冲区如2026-04-21T17-07-32p08-00.json一个值得注意的细节AX 深度是头号坑。原生 Cocoa 应用的 AX 树很浅5–15 层而 Electron 应用VS Code、Slack、Notion 等把用户内容嵌套在 20–60 层深的 UI 之下。Persome 默认ax_depth 100就是因为诊断发现某次重要对话在深度 30 时完全读不到。五、本地 OCR隐私友好的兜底方案有些应用微信、飞书、网易云音乐等屏蔽 Accessibility APIAX 树里读不到正文。Persome 的 OCR 兜底路径完全在本地运行图像不出机器聚焦窗口截图临时、不落盘 → 本地 OCR 工作进程 → 文字 几何信息 → 应用感知结构化 → 回填 captures FTS 索引实现细节src/persome/capture/ocr_local.pyApple Silicon运行随包捆绑的 PP-OCRv6模型见 ocr_models/PP-OCRv6_tiny_det/ 与 ocr_models/PP-OCRv6_tiny_rec/模型权重从本地目录加载守护进程永不联网取模型Intel MacPaddlePaddle 没有 macOS x86_64 版本改用编译好的 Swift 助手调用系统 Apple Vision 框架输出同构的文字、坐标框和置信度子进程即崩溃隔离边界原生层崩溃只会让本次 OCR 失败不会杀死主守护进程且截图 OCR 结果永不进入 LLM prompt频控每个窗口默认 15 秒内最多触发一次 OCR失败静默降级回 AX-only 捕获六、截图加密存储AES-256-GCM 静态加密截图是捕获中隐私敏感度最高的部分占每条捕获约 77% 的字节。Persome 用 src/persome/capture/screenshot_crypto.py 提供静态加密密钥来自环境变量PERSOME_SCREENSHOT_KEY64 位十六进制 32 字节由install.sh在首次安装时自动生成且跨重装保留信封格式为带版本魔法前缀的PSOMEGCM1: base64(IV(12) ‖ 密文 ‖ Tag(16))可直接替换 JSON 里的image_base64字段旧明文捕获保持可读失败即关闭密钥缺失或格式错误时持久化直接省略像素但保留 AX 文本与元数据——宁可不存图也不存明文所有读取方都经过read_screenshot这一个解码收口点有密钥则解密无密钥原样返回配合include_screenshot false还能彻底关闭持久化像素OCR 仍可临时截图工作。七、缓冲区分层保留与 FTS 搜索索引截图是重数据因此保留策略是分层的由 timeline 心跳触发清理层级条件动作剥截图mtime 超过 24 小时重写 JSON 去掉screenshot字段体积降至约 20%AX 文本保留整体删除mtime 超过 168 小时7 天删除整个 JSON按大小驱逐总缓冲超过 2 GB从最旧文件开始删除直到低于上限与此同时每条捕获写入时都会同步索引进 FTS5 虚拟表captures_fts见 src/persome/store/fts.py支撑 MCP 的search_captures和current_context工具——AI 客户端可以直接检索原始屏幕内容而不用扫描磁盘 JSON。索引失步时一条persome rebuild-captures-index即可全量重建。八、快速验证你的捕获管线persome onboard # 权限 OCR 守护进程 健康检查 新鲜捕获证明 persome ocr status # 查看 OCR 配置与运行时状态 persome capture-once # 开发者诊断立即写一条捕获 persome clean captures # 手动清空缓冲区想暂停时persome pause会落一个哨兵文件捕获即刻短路persome status的 Index Health 行可以随时告诉你管线是active、paused还是broken。九、小结从屏幕事件到 HUMAN.md整条管线的设计哲学可以概括为三句话事件驱动 多层去重只在语义上有变化时捕获把高频噪声压成有效观察本地优先OCR 在设备上完成、截图静态加密像素和文字都不出机器分层存储截图 24 小时即剥离文本证据保留 7 天并进入全文索引最终由 timeline 与 writer 管线蒸馏进你的个人模型捕获层不直接生成模型它负责让模型有据可查——每一条 Line、Face、Root 背后都能追溯到capture-buffer里带时间戳的观察记录。这正是 Persome 构建HUMAN.md的底层保障。赞分享【免费下载链接】personal-modelBuild your HUMAN.md.项目地址https://gitcode.com/gh_mirrors/pe/personal-model点击查看免费下载相关推荐Electron屏幕捕获实现屏幕截图与录屏功能Electron屏幕捕获实现屏幕截图与录屏功能 在桌面应用开发中屏幕捕获是一个常见且重要的功能需求。无论是用于远程协助、教学演示、游戏录制还是应用监控屏幕桌面应用跨平台前端Wox 截图插件完全指南屏幕捕获、标注、置顶与 OCR 历史检索Wox 截图插件完全指南屏幕捕获、标注、置顶与 OCR 历史检索 本文以 Wox 内置的 Screenshot 系统插件仓库文档 www/docs/feat桌面应用AI 应用插件系统Iced屏幕截图界面捕获与图像导出功能Iced屏幕截图界面捕获与图像导出功能 引言为什么需要原生GUI截图功能 在GUI应用开发中截图功能是一个看似简单却极其重要的需求。无论是用于用户反馈、前端跨平台UI组件桌面应用创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Agent技能编排实战:让大模型真正“动手办事”的工程指南

Agent技能编排实战:让大模型真正“动手办事”的工程指南

接手这个“agent-skills”项目的时候,我脑子里最先冒出来的问题是:大模型明明已经能写诗、能解题、能聊得头头是道,为什么真正想让它替我去处理一点“具体的工作”,比如整理一下邮箱、批量改个文件名、跨系统同步一条数据&#xf…

2026/10/13 5:13:27 阅读更多 →
人脸表情识别源代码实战:从人脸检测到实时情绪分析完整链路

人脸表情识别源代码实战:从人脸检测到实时情绪分析完整链路

简介:面向计算机视觉入门与进阶开发者的OpenCV人脸表情识别工程,完整实现从人脸检测到表情分类的经典流程,覆盖喜、怒、哀、乐、惊喜等多种情绪状态,适合作为课程设计、算法实验或人机交互项目的参考起点。压缩包共151个文件&…

2026/10/13 5:12:27 阅读更多 →
人脸表情识别实战:从训练到部署的完整避坑指南

人脸表情识别实战:从训练到部署的完整避坑指南

简介:这是一套基于OpenCV实现的人脸检测与表情识别完整工程,面向计算机视觉初学者与希望快速上手表情识别项目的开发者。项目覆盖人脸定位、特征提取、分类识别全流程,可识别喜、怒、哀、乐、惊喜等常见情感状态,并附有可直接运行…

2026/10/13 5:12:27 阅读更多 →

最新新闻

西门子PLC实战:锂电浆料线程序开发与通讯调试全流程

西门子PLC实战:锂电浆料线程序开发与通讯调试全流程

很多人找我聊西门子PLC程序开发怎么入门,我一般不会直接甩教程,而是先反问一句:你见过新能源浆料线吗?去年我接手了一条锂电正极浆料产线的整套PLC程序开发,从需求梳理到带料调试,前后折腾了小半年。说句实…

2026/10/13 5:56:39 阅读更多 →
逻辑回归原理与实战:从线性回归到分类算法的完整指南

逻辑回归原理与实战:从线性回归到分类算法的完整指南

第一次接触逻辑回归的人,十有八九会被它的名字带偏——明明叫“回归”,翻开文档才发现它是个分类算法。我刚入行那年就踩过这个认知坑,一度以为它是用来预测房价的。后来在好几个分类项目里把它用熟了,才意识到这个“名字有歧义”…

2026/10/13 5:56:39 阅读更多 →
表格解析新思路:先看懂结构再生成答案,复杂表格不再答错

表格解析新思路:先看懂结构再生成答案,复杂表格不再答错

表格解析这个方向,做文档智能的人应该都不陌生。以前大家的习惯做法很简单:直接把一整张表格图像和问题一起丢给多模态模型,让它端到端输出答案。看着挺省事,但一落到真实场景——带合并单元格的财务报表、跨页的长规格书、行列爆…

2026/10/13 5:56:39 阅读更多 →
已完成研究,现在撰写文章

已完成研究,现在撰写文章

桌面应用 【免费下载链接】QOwnNotes QOwnNotes is a plain-text file notepad and todo-list manager with Markdown support and Nextcloud / ownCloud integration. 项目地址&#xff1a; https://gitcode.com/gh_mirrors/qo/QOwnNotes 点击查看 免费下载 <output_artic…

2026/10/13 5:56:39 阅读更多 →
快速去掉 Windows 与 Office 未激活水印:MAS 3.12 免费激活四步指南

快速去掉 Windows 与 Office 未激活水印:MAS 3.12 免费激活四步指南

快速去掉 Windows 与 Office 未激活水印&#xff1a;MAS 3.12 免费激活四步指南 【免费下载链接】Microsoft-Activation-Scripts Open-source Windows and Office activator featuring HWID, Ohook, TSforge, and Online KMS activation methods, along with advanced troubles…

2026/10/13 5:56:39 阅读更多 →
ZMK 电源管理行为实战:用 `ext_power` 控制外部电源(VCC)输出以节省电量

ZMK 电源管理行为实战:用 `ext_power` 控制外部电源(VCC)输出以节省电量

固件嵌入式智能硬件蓝牙 【免费下载链接】zmk ZMK Firmware Repository 项目地址&#xff1a; https://gitcode.com/gh_mirrors/zm/zmk 点击查看 免费下载 本文以 ZMK 固件仓库中的电源管理行为文档&#xff08;docs/docs/keymaps/behaviors/power.md&#xff09;为核心&#…

2026/10/13 5:55:39 阅读更多 →

日新闻

物联网系统集成避坑指南:从选型到验收的关键要点

物联网系统集成避坑指南:从选型到验收的关键要点

做了这么多年物联网系统集成的项目&#xff0c;我最大的感受是&#xff0c;大部分坑不是出在技术前沿&#xff0c;而是出在一些看起来很平常的地方。设备选了便宜的、协议没问清楚、现场没摸透、验收标准写得含糊——这些细枝末节&#xff0c;最后都会变成延期、超支和扯皮的大…

2026/10/13 0:00:57 阅读更多 →
ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

如果你玩ESP32有一阵子了&#xff0c;很难不碰到舵机控制这道坎。做智能小车要转方向&#xff0c;做机械臂要抬关节&#xff0c;做云台要偏航俯仰&#xff0c;背后都是同一个东西在干活&#xff1a;舵机。而我见过太多人卡在“代码能编译、舵机就是不听话”这个阶段&#xff0c…

2026/10/13 0:00:57 阅读更多 →
CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

1. 为什么CAN总线至今仍是工业现场的“硬通货”&#xff1f;——从汽车底盘到智能温室的真实需求你有没有拆过一辆老款燃油车的中控台&#xff1f;或者调试过某高校实验室里那台跑着Modbus协议却频频丢帧的PLC控制柜&#xff1f;又或者&#xff0c;在某个农业物联网项目里&…

2026/10/13 0:00:57 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介&#xff1a;基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码&#xff0c;面向计算机相关专业课程设计与期末大作业学生&#xff0c;以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程&#xff0c;…

2026/10/13 2:54:56 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程&#xff1a;键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化&#xff0c;十个新手有八个栽在"往输入框里填东西"这件事上&#xff1a;要么填不进去&#xff0c;要么填了一半&#xff0c;要么直接把原来内容追加在后面。这背后的根因&…

2026/10/12 0:16:38 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程&#xff1a;阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀&#xff1a;什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面&#xff0c;跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/13 1:58:08 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 21:05:09 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 14:48:49 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 18:11:17 阅读更多 →