如何让Claude Code用上本地模型PrivateGPT让AI编程真正数据不出门【免费下载链接】privateGPTComplete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.项目地址: https://gitcode.com/GitHub_Trending/pr/privateGPTPrivateGPT 是一个开源的本地 AI API 层它把 Ollama、vLLM、llama.cpp 等本地模型封装成一套类 Claude API 的完整接口RAG、工具调用、MCP、Text-to-SQL 等让你一行命令就把 Claude Code 等 AI 编程工具指向本地模型实现真正数据不出门的私有化 AI 编程。为什么想用本地模型跑 Claude Code用云端 AI 写代码代码片段和工程结构都会离开你的机器。对涉密项目、合规要求高的团队来说这是个硬伤。理想方案是模型本地跑用 Ollama 等推理服务在本机加载开源模型体验不降级继续用 Claude Code 这类成熟的 Agent 工具保留工具调用、多文件编辑等能力能力要完整本地推理服务本身只解决跑模型还缺流式、结构化输出、Token 计数、知识库检索等应用层能力。这正是 PrivateGPT 的定位——它不自己跑模型而是连接任意 OpenAI 兼容推理服务器在其上补齐应用层你的应用 / AgentClaude Code、OpenCode … | PrivateGPT API | OpenAI 兼容推理服务器Ollama、llama.cpp、vLLM …官方对它与各类工具的兼容矩阵见 README.mdClaude Code 的聊天流式、工具调用、文件读写、多 Agent、联网搜索全部可用。三步搭好本地 AI 应用层整个搭建过程只需三步以最容易上手的 Ollama 为例完整指南见 quickstart.mdx1️⃣ 安装 PrivateGPT# macOS brew install private-gpt # Linux / Windows先装 uv然后 uv tool install --python 3.11 --find-links ... private-gpt[core]2️⃣ 启动本地模型服务ollama pull qwen3.5:35b # 大语言模型 ollama pull mxbai-embed-large # 嵌入模型用于知识库检索 ollama serve3️⃣ 启动 PrivateGPTOPENAI_API_BASEhttp://localhost:11434/v1 \ OPENAI_EMBEDDING_API_BASEhttp://localhost:11434/v1 \ private-gpt serve启动时 PrivateGPT 会自动探测/v1/models注册所有可用模型基本无需配置文件。打开http://localhost:8080/ui就能看到内置工作台界面可直接发消息、上传文档、测试带引用的检索一行命令让 Claude Code 接入本地模型PrivateGPT 自带run命令专门用来托管接入应用。以 Claude Code 为例private-gpt run claude-code背后它会自动完成三件事实现见 run.py检查服务器状态若 PrivateGPT 服务没在跑自动拉起并等待就绪注入环境变量写入ANTHROPIC_BASE_URL指向本地 8080 端口并设置 API Key锁定模型可通过--model把 Opus/Sonnet/Haiku 三档全部指到同一个本地模型。常用变体private-gpt run claude-code --model default # 指定模型 private-gpt run claude-code -- --resume abc123 # 恢复上次会话 private-gpt run claude-code --auto-approve -- -p explain this file # CI 非交互不想托管也没关系手动导出ANTHROPIC_BASE_URLhttp://localhost:8080和ANTHROPIC_API_KEY后直接运行claude即可。详细变量说明见 claude-code.mdx。从这一刻起Claude Code 的所有请求都走本地私有 API代码和数据不再发往任何云端。不止 Claude Code一套后端全家受益PrivateGPT 兼容 Claude API 与 OpenAI 兼容接口双协议因此几乎所有能接 Claude/本地 OpenAI 服务的工具都能白嫖工具说明Claude Code终端里的 Agent 编程官方 CLI 直连Claude Desktop / Cowork桌面应用与协作模式接入私有模型Claude for Microsoft 365Word、Excel、PowerPoint 内嵌私有 AIOpenCode开源终端 AI 编程 Agentn8n / VS Code / Cline 等任意 OpenAI 兼容客户端OpenCode 的接入同样是零配置private-gpt run opencode命令会自动生成~/.config/opencode/private-gpt.json配置文件并注入本地模型列表Office 场景下Word、Excel 里的 Claude 插件也可以指向你的私有服务文档内容不出内网超越聊天给 AI 编程装上记忆和手脚如果只是转发聊天请求PrivateGPT 就太可惜了。它的价值在于把本地模型变成生产级 AI 应用的后端知识库 RAG上传 PDF、Word、CSV 等文档AI 检索时附带引用来源。配合 Claude Code 做企业内部代码问答、规范查询非常实用内置工具网页搜索、网页抓取、沙箱代码执行与 Claude API 同款MCP 连接器接入远程 MCP 服务器扩展任意外部能力Text-to-SQL自然语言查询数据库和表格数据Skills 技能包把可复用的指令打包成版本化的技能挂到任何会话上参考 skills.mdx。工作台里随时可以按对话维度开关知识库、数据库、MCP 与自定义工具关键文件导航想深入了解源码和文档可以从这些路径入手项目总览与能力对比README.mdClaude Code 集成指南fern/docs/pages/integrations/claude-code.mdxOpenCode 集成指南fern/docs/pages/integrations/opencode.mdx快速上手fern/docs/pages/getting-started/quickstart.mdxrun托管命令实现private_gpt/cli/commands/run.py默认配置样例settings.yaml总结想让 Claude Code 用上本地模型核心就两步用 Ollama 把开源模型跑起来再用 PrivateGPT 一层private-gpt run claude-code完成对接。模型不出机器、代码不出内网而你依然拥有完整的 Agent 编程体验、知识库检索和工具生态——这就是数据不出门的 AI 编程最简解法。【免费下载链接】privateGPTComplete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.项目地址: https://gitcode.com/GitHub_Trending/pr/privateGPT创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考