Ollama + Open WebUI：5 分钟搭建本地 ChatGPT，数据不出门一、为什么你需要一个本地大模型2026 年，大语言模型（LLM）已经渗透到日常开发的方方面面。但云端服务始终绕不开几个痛点：隐私焦虑：你贴进对话框的代码、设计文档、客户数据，每一行都经过远端服务器。公司项目代码被 SaaS 服务"学习"的案例已经不是新闻。网络强依赖：出差路上、客户现场、内网机房——只要能联网的环境，GPT 就罢工。成本不可控：API 按 Token 计费，调试一个 prompt 来回几十次，月底账单看着肉疼。定制自由度低：你不能换量化版本、不能调整上下文窗口、不能接入本地知识库——一切都要等云厂商"上线"。本地大模型方案——Ollama + Open WebUI——直击这些痛点。它让你在自己机器上跑 Llama、Qwen、DeepSeek 等开源模型，并拥有一个 ChatGPT 级别的网页交互界面。整条链路跑通只需一条 Docker 命令，模型下载自动完成，TLS 证书自动签发，零手动配置。二、Ollama：让大模型像 npm install 一样简单2.1 设计哲学传统跑本地模型需要手动下载 GGUF 文件、配置量化参数、写 Python 推理脚本。Ollama 把这些全部抽象掉：模型即包管理：ollama pull llama3.2就像pip install requests——版本、量化、系统提示词全部打包。内置推理引擎：底层封装的 llama.cpp，默认启用 GPU 加速（CUDA / Metal / ROCm），你不需要知道 kv-cache 是什么。REST API 兼容：所有操作通过 HTTP 接口暴露，任何语言都能调用。2.2 架构总览整个栈分三层：┌─────────────────────────────────────┐ │ Open WebUI │ ← 用户界面层 │ (React SPA + FastAPI 后端) │ ├─────────────────────────────────────┤ │ Ollama │ ← 模型服务层 │ (Go 服务 + llama.cpp 推理引擎) │ ├─────────────────────────────────────┤ │ GPU (CUDA/Metal/ROCm) / CPU │ ← 硬件加速层 └─────────────────────────────────────┘Ollama 监听localhost:11434，Open WebUI 通过这个端口与模型通信。Docker 部署时两者打包在一起，网络自动打通。2.3 模型文件（Modelfile）Ollama 的灵魂是Modelfile——一个 Dockerfile 风格的模型定义文件，让你精确控制模型行为：FROM qwen2.5:7b # 设置系统提示词 SYSTEM "你是一个精通 Python 和 C++ 的资深后端工程师，回答简洁、给出可运行代码。" # 调高温度，让输出更有创造性 PARAMETER temperature 0.8 # 限制最大输出 token 数 PARAMETER num_predict 4096 # 开启上下文并行（适合长对话） PARAMETER num_ctx 8192一行ollama create my-dev-assistant -f Modelfile，专属模型就绪。团队共享时，把 Modelfile 纳入 Git 仓库即可——核心资产不是模型权重，而是这个配置文件。三、Open WebUI：不止是聊天界面Open WebUI 是目前社区最活跃的自托管 LLM 前端，GitHub 80K+ Star 不是白来的。它的能力远不止聊天：功能说明多模型切换一个页面无缝切换 Llama 3.2 / Qwen 2.5 / DeepSeek V3 等RAG 知识库上传 PDF/Word/Markdown，自动向量化，对话中引用Markdown + LaTeX 渲染代码高亮、数学公式、表格完美呈现权限系统多用户、角色管理、模型访问控制Web Search接入 SearXNG 等搜索引擎，让本地模型也能"联网"Function Calling模型可调用自定义工具（API、Shell 命令等）语音交互TTS/STT 支持本质上，Open WebUI 是一个企业级 AI 工作台，只是恰好长得像 ChatGPT。四、5 分钟部署实操4.1 前置条件Docker Desktop 或 Docker Engine（Windows / macOS / Linux 均可）至少 8GB 可用内存（跑 7B 模型）推荐 NVIDIA GPU + CUDA 12+（CPU 推理仅限测试）4.2 一命令启动打开终端，复制这一行：dockerrun-d\-p3000:8080\--gpusall\-vollama_data:/app/backend/data\-vopen-webui:/root/.ollama\--nameopen-webui\--restartalways\ghcr.io/open-webui/open-webui:ollama各参数含义：--gpus all：向容器暴露所有 NVIDIA GPU，让 llama.cpp 启用 CUDA 推理。仅 CPU 的机器去掉这行。-v ollama_data:/app/backend/data：持久化 Open WebUI 配置——聊天记录、知识库、用户数据存 Docker Volume，容器重建不丢失。-v open-webui:/root/.ollama：持久化 Ollama 模型文件——几十 GB 的模型权重存在 Volume 中，不怕容器删除。--restart always：宿主机重启后自动拉起服务。镜像大小约 6GB（含 Ollama 二进制），首