开源一个本地可跑的智能写作助手Node Flask RAG Ollama LoRA写在前面日常写作里我们经常会遇到这些场景作文卡壳、开题报告结构乱、文案要反复润色、实验报告语言要更学术……如果只靠通用大模型「裸聊」效果往往不稳定如果再叠一层本地知识库范文、术语、写作规范再配合结构化 Prompt体验会好很多。于是我做了一个可本地部署的智能写作助手并把完整代码开源了。它支持大纲生成、续写、改写、润色、摘要侧栏对话式写作辅助可选RAG 知识库先检索再生成用户登录、草稿同步与版本回滚对接本地Ollama也可用 Mock 模式先体验适用场景覆盖日常写作初高中作文、日记、短篇小说、营销文案等和部分专业写作开题报告、实验报告等。项目能做什么界面上是「写作区 侧栏」的经典布局能力说明写作工具栏一键生成大纲 / 续写 / 改写 / 润色 / 摘要风格控制正式学术、中性、轻松、营销文案中英文短中长知识库开关开启后先走本地向量检索再把相关片段注入模型上下文写作模板一键插入常用结构再交给模型细化草稿管理本地缓存登录后可同步到 MySQL支持版本列表与回滚模型设置可切 Mock / 真实 Ollama方便没有 GPU 时也能演示流程核心思路不是「做一个聊天框」而是把写作动作续写、润色等产品化用 Prompt 工程把需求结构化让输出更可控。整体架构项目采用前后端分离、本地多服务协作浏览器 (HTML/CSS/JS) │ ▼ Node.js 网关 (server.js) ├─ 静态页面托管 ├─ 用户认证 (JWT) ├─ 草稿 / 版本 / 会话 API (MySQL) ├─ 代理 Ollama Chat API └─ 可选请求前向 RAG 服务检索并注入 system prompt │ ├──────────────► Ollama本地大模型 │ └──────────────► Flask RAG (rag_server.py) ├─ LangChain 文档切块 ├─ EmbeddingHF / Ollama └─ FAISS 向量检索另外仓库里还包含基于DeepSeek-R1-Distill-Qwen-1.5B的LoRA 适配器用于在特定写作风格/任务上做轻量微调增强可按需接入本地推理链路。技术栈一览前端原生 HTML / CSS / JavaScript无重型框架部署简单业务后端Node.js认证、草稿、Ollama 代理、RAG 注入RAG 服务Python Flask LangChain FAISS数据库MySQL用户、草稿、版本、聊天会话等本地推理Ollama微调相关LoRA AdapterDeepSeek-R1-Distill-Qwen-1.5B/工程点Prompt 工程、RAG检索增强生成、JWT 鉴权几个值得说的实现点1. Prompt 工程把「写作意图」结构化续写、润色、改写这类能力不能只丢一句「帮我写好点」。项目里会结合用户选中的文本、语气、语言、长度等约束组装更稳定的指令例如明确任务类型polish / continue / rewrite约束风格与篇幅要求保留原意、只优化表达这样比自由对话更适合「写作工具」场景。2. RAG先检索再生成开启「是否采用知识库」后流程大致是取当前用户问题 / 写作上下文Node 网关请求 Flask RAG 的/query从 FAISS 中取出相关文本片段把片段写入 system / 上下文再转发给 Ollama知识库内容来自RAG_backend/data/如范文、名言、语料等通过ingest.py切块并建索引。这样模型在写开题、作文时可以参考你本地准备的材料而不是只靠参数记忆。3. Node 网关做「编排层」Node 不只是静态服务器还负责MySQL 持久化与 JWT 登录统一代理本地 Ollama避免前端直连带来的跨域/密钥问题在真正调用模型前按开关决定是否做 RAG 增强这层把「产品逻辑」和「模型推理」拆开了后续换模型、换向量库都更方便。4. LoRA小成本适配写作任务全量微调成本高LoRA 可以在参数量很小的适配器上学习写作偏好。仓库中提供了适配器权重目录适合作为课程设计/毕设里「微调实验」的落地材料对比基座模型与 LoRA 后在润色、续写等任务上的差异。本地快速跑起来依赖Node.js、MySQL可选 Python3、Ollama。1初始化数据库mysql-uroot-p-eCREATE DATABASE IF NOT EXISTS ai_writing DEFAULT CHARSET utf8mb4;mysql-uroot-pai_writingai_writing_db_init.sql2配置环境变量cp.env.example .env填写 MySQL 密码、JWT_SECRET等。3启动 Node 服务npminstallnpmstart终端会打印访问地址PORT0时自动分配端口。4可选启动 RAGcdRAG_backend python-mvenv .venv# Windows: .venv\Scripts\activatepipinstall-rrequirements.txt python ingest.py python rag_server.pyWindows 也可直接运行启动RAG.bat。5在设置里关闭 Mock改为真实 Ollama 模型即可开始正式写作。适合谁用 / 能学到什么如果你在做这些方向这个项目会比较有参考价值大模型应用落地不是只调 API DemoRAG 全流程ingest → 向量库 → 检索 → 注入 PromptPrompt 工程在写作产品中的拆解LoRA 微调结果如何放到实际应用旁路里前后端 本地推理的工程串联写在最后这个项目的目标很明确本地可控、可扩展、可演示。你可以先用 Mock 跑通交互再接 Ollama需要领域知识时打开 RAG想做风格定制时再引入 LoRA。欢迎 Star、Fork也欢迎提 Issue 交流改进想法。开源地址GitHubhttps://github.com/FZH27icecream/ai-writing-assistant