坐拥 E3 神U 和 P106 矿卡这两块二手市场的大热门,把这套配置改造成一台集 AI 推理与建站于一体的全能服务器,是很多折腾党都想干的事。E3 的多核生产力在百元价位几乎没有对手,P106 这块被矿潮埋没的显卡又恰好拥有大显存和高吞吐量的底子,搭配 16G 内存做虚拟化平台,完全能变废为宝。这篇文章我会把硬件选型、PVE 虚拟化底层、GPU 直通、AI 推理部署和网站服务搭建的完整流程全部摊开讲,适合手里恰好有这套配置、又不想浪费性能的玩家照着抄作业。1. 这个方案到底值不值:先看清 E3 + P106 的家底1.1 E3 神U 的性价比逻辑所谓 E3 神教,核心就一句话:用接近 i5 的价格,买到接近当年至强服务器的多核性能。E3-1230 v2 或 v3 都是四核八线程,主频 3.3GHz 起步,关键是它支持的 ECC 内存虽然咱们用不上,但价格便宜、稳定性压倒性胜过同期家用平台,而且几乎所有支持它的主板都能稳定运行。用在虚拟化服务器场景,它的优势其实非常清晰。PVE 这种虚拟机管理平台本身就是靠多个 CPU 核心和线程并行工作的,四核八线程虽然不算很多,但用来跑一两个轻负载虚拟机、五六个 LXC 容器完全够用。更重要的是,E3 的 TDP 普遍在 69W 到 80W 之间,对电源要求低,长期开机运行的电费和散热压力都很小。当然也要认清它的短板:单核性能放到今天只能算是入门水平,跑那种对单核频率极度敏感的推理任务会有点吃亏。好在 AI 推理和大多数建站服务的瓶颈在内存带宽和显存,而非 CPU 单核浮点能力,所以并不会形成致命短板。1.2 P106 矿卡的特殊身世与真实性能P106-100 在当年是一块专门用于挖矿的显卡,核心规模和 GTX 1060 6G 几乎一致,显存也是 6GB GDDR5,但有几个硬件层面的差异需要我们留意。它没有视频输出接口,也就是说不能直接插显示器使用;同时它的 PCIe 通道被限制成要么 1x 要么 4x,对带宽极度敏感的图形渲染会有一定影响。但到了 AI 推理这个场景,情况就完全不同了。推理任务不像训练那样需要频繁地在显存和 CPU 之间交换大量数据,很多模型甚至可以在单次加载后连续处理请求,PCIe 带宽的影响被大幅压低。6GB 显存放到今天依然能跑很多量化后的模型,比如 7B 参数的 Q4 量化 LLM,或者 Stable Diffusion 1.5 系列出图,都不用担心显存溢出。所以我的结论是,P106 作为一张“AI 专用入门卡”是完全合格的,前提是你愿意折腾驱动补丁和直通配置。它最大的问题不是性能,而是缺少视频输出带来的调试障碍和驱动兼容性,这两点在后面会专门展开。1.3 16G 内存:不多不少,但要精打细算16G 内存跑虚拟化服务器是什么水平?坦白说是入门及格线,但不是随便造的。E3 平台搭配的是 DDR3 或 DDR4,二手内存价格已经很低了,但如果你不想继续加钱,就得学会给各个虚拟机分配合理的内存。我的分配习惯是:PVE 宿主机本身占用约 1.5G 到 2G 内存,一个负责建站的 LXC 容器分配 2G,一个专门跑 AI 推理的 Linux 虚拟机分配 6G 到 8G,剩下的留给缓存和快照。这样能够保证常用服务不互相挤占资源。需要注意的是,PVE 的 KSM 内存合并功能可以自动合并多个虚拟机中相同的内存页,开启之后能白嫖一点内存,对 16G 容量的机器来说很有意义。2. 整体设计与方案选型:为什么必须走 PVE 路线2.1 虚拟化路线怎么选:PVE 对比其他方案把 AI 服务和网站服务放在同一台物理机上,最直观的做法是直接在宿主机上装一个 Debian 或者 Ubuntu,然后通过 systemd 管理各种服务。但我强烈建议你不要这么做。原因很简单:AI 推理环境对 CUDA 驱动、Python 版本、PyTorch 版本的要求极其苛刻,而你建站用的 Nginx、MySQL 又希望保持一个长期稳定、不轻易升级底层库的状态。两者混装在一个系统里,迟早会因为依赖冲突而翻车。虚拟化的意义就是把这两套环境物理隔离,各管各的系统,坏了一个不影响另一个。PVE 在处理这种场景时有多重优势:它基于 Debian,底层稳定;支持 LXC 容器和 KVM 虚拟机两种模式;对 GPU 直通的支持非常成熟;社区文档多到你看不完。相比之下,VMware ESXi 虽然稳定,但免费版对直通的支持限制更多;Docker 虽然轻量,但无法做到内核级别的隔离,不适合跑需要自定义驱动的 AI 环境。2.2 三套核心负载的需求拆解这台服务器的负载主要分三大类:一是网站服务,典型场景是个人博客、项目官网、小型企业站。这类负载的特点是并发量不大,但对稳定性要求极高,数据库查询要快,页面响应要稳。适合用 LXC 容器承载,因为容器本身开销极低,启动速度快,备份和迁移也非常方便。二是AI 推理服务,包括本地大模型对话、Stable Diffusion 出图、简单的 OCR 识别等。这类负载的特点是吃显存、吃内存带宽,CPU 反而只用于预处理和调度。需要 GPU 直通,并且最好单独分配一个专用虚拟机,避免和建站服务争抢资源。三是日常开发与实验环境,可能是一次性的 Python 脚本、爬虫、数据清洗任务等。这类负载弹性太大,不适合固定分配资源,建议直接跑在 PVE 宿主机的特权容器里,用完即走,不占用额外的资源配额。把这三类负载拆分开后,你会发现整台服务器的资源调度变得非常清晰:CPU 主攻虚拟化调度和建站,GPU 负责 AI 推理,内存按照 2G + 6G + 2G 的格局分配,余量留给系统缓存。2.3 磁盘与系统分区策略这是很多人容易忽略的环节。E3 平台一般只能接 SATA 接口的固态硬盘,我建议至少准备两块:一块 120G 或 240G 的 SSD 作为 PVE 系统盘,一块容量更大的机械盘或 SSD 作为数据盘。系统盘只装 PVE 系统和虚拟机镜像文件,数据盘通过挂载点映射到各个虚拟机中,专门存放网站源码、数据库文件、AI 模型权重。这样做的核心好处是:系统盘坏了重装 PVE 不影响数据盘里的东西;同时模型权重文件动辄十几个 GB,如果都存放在系统盘里会很快把宝贵的 SSD 空间吃光。分区的时候,我建议 LVM 不要一次分配完,默认的 LVM-Thin 模式就很适合,因为后续创建虚拟机快照时需要用到精简配置的功能。3. 硬件准备与装机细节:每一步都算数3.1 板 U 内存的搭配要点E3 神教根据针脚不同分成两大阵营:E3 v2 对应 LGA1155 平台,搭配 B75 或 H61 主板;E3 v3 对应 LGA1150 平台,搭配 B85 或 H81 主板。如果你手头还没有主板,我更推荐 v3 平台,因为 B85 普遍支持 M.2 转接启动,也能更好地兼容 P106 的 UEFI 启动模式。内存方面,如果你的主板是 DDR3 插槽,直接买两条 8G DDR3 1600 组成双通道是最优解。很多人会纠结要不要买 ECC 内存,我的建议是没必要,因为你用的家用主板根本不可能提供 ECC 校验功能,买了也是浪费。另外非常关键的一点是:很多 E3 平台的主板在 BIOS 默认状态下对现代 UEFI 显卡支持得并不好。你需要在 BIOS 里开启 CSM 兼容模式或者 UEFI 引导,否则 P106 这类没有传统 Option ROM 的显卡可能无法完成直通初始化。3.2 P106 矿卡的供电与散热改造P106 的功耗大约在 120W 左右,理论上只需要一个 6 针供电口。但矿卡在二手市场上普遍经历过长时间高负载运行,供电部分的散热状态往往堪忧。我建议拿到手后第一时间拆开检查:如果散热器上的导热垫已经干裂,果断换新;如果核心硅脂已经硬成粉末,重新涂抹一层。这里有一个多数博主不会提的细节:P106 的散热器是公版涡轮或者单风扇方案,风扇转速策略经常失效,导致卡在低转速下散热不足。你可以用一个转接线把风扇改成由主板控制,或者直接在软件里写死风扇转速,让它在待机时保持 40% 转速,负载时拉到 80% 以上。散热改造的意义不仅仅是为了稳定运行,更是为了降低噪音和延长寿命。一台服务器如果放在家里,满载时风扇轰鸣绝对是灾难。3.3 硬盘与电源的取舍很多用户的机器里还躺着一块几十块钱的杂牌电源,这是整个服务器稳定性最大的隐患。E3 加 P106 的平台峰值功耗大约在 200W 到 250W 之间,一块额定 450W 的品牌电源会有很大余量。你可以用二手平台上常见的品牌电源,比那些全新不到一百的“炸弹电源”不知道稳妥多少倍。硬盘方面,SSD 一定要买带缓存的正规型号,别贪便宜买白片闪存盘,因为服务器需要 7x24 小时连续读写,杂牌固态极容易掉盘。机械盘只要不是坏道严重的,都可以长期使用,但建议用两块组软 RAID1 或者干脆定时备份到移动硬盘。4. PVE 安装与基础调优:从 U 盘到开机全流程4.1 PVE 安装过程中的几个关键选项PVE 的安装流程非常标准化,需要注意的关键选项其实就几个。写盘工具推荐用 Rufus,写入模式选择 DD 镜像写入而不是 ISO 模式,否则引导会失败。安装时的键盘布局选择美式英语,时区改成 Asia/Shanghai,之后在系统内再统一调整。安装到磁盘选择时,尽量不要把整块大硬盘全部交给 PVE。我习惯把系统盘容量控制在 120G 以内,如果只有一块 1T 的硬盘,也建议你在分配磁盘大小时只给它让系统用一部分空间,剩下的空间等装完系统后再通过 LVM 命令手动分配给数据存储。网络配置这一步也容易踩坑。PVE 安装时会要求你填写 IP 地址、网关和 DNS,这里建议直接规划好,后面基本不用再改。比如我可以把它设在 192.168.1.10/24,网关指向路由器。如果你乱填,装完系统后进不了 web 界面会非常麻烦。4.2 更换软件源与基础系统优化PVE 默认的软件源是在国外的,如果国内网络环境下不换源,后续安装更新包会慢到怀疑人生。这一步不用多说,直接参照官方文档或社区教程,把订阅源替换成社区免费源或国内镜像源即可。基础优化方面,第一个要动的是开启 KSM 内存合并。在 PVE 的 Web 界面中,数据中心 -> 选项里可以开启 KSM,这会明显减少多个虚拟机之间的重复内存页。第二个要优化的是 CPU governor,把默认的 powersave 模式改成 performance 或者 ondemand,避免 CPU 在低负载时自动降频,导致推理任务启动瞬间卡顿。还有一个实用小技巧:SSH 登录 PVE 后,把 nano 换成 vim,然后安装一些常用的网络工具,比如 curl、htop、iotop、iftop,方便后续排查问题。4.3 网络桥接与静态 IP 规划PVE 默认会创建一个名为 vmbr0 的 Linux Bridge,把所有物理网卡接口都绑定到这个虚拟桥上,虚拟机通过这个桥接直接连接物理局域网。这个设计在大多数家用环境里都很好使,不需要额外配置。但如果你有多块网卡,我建议把管理口和虚拟机的数据口分开。比如我给 PVE 管理界面单独分配一个网口,把虚拟机流量挂到另一个网口上,这样即使虚拟机出现广播风暴或者大流量下载,也不会影响你访问 PVE 管理界面。静态 IP 规划也很有讲究。我给整套局域网设计了一个简单的分配表:PVE 宿主机是 .10,路由器是 .1,网站容器是映射到宿主机的 80 端口,因此容器本身可以随便分配一个内网 IP;AI 推理虚拟机为了便于后续通过 API 调用,固定一个独立的 IP,并把 8000、7860 等端口通过防火墙规则暴露给局域网。5. 建站服务的落地:给站点一台稳定的家5.1 使用 LXC 容器承载网站服务LXC 容器比虚拟机轻量得多,因为它直接共享宿主机的内核,不需要模拟硬件。创建一个 Ubuntu 或者 Debian 的 LXC 容器,分配 2G 内存和 2 核 CPU,就足够跑一个 Wordpress 或者 Typecho 博客了。创建容器时,我记得一个关键问题是网络配置。如果你想让网站直接通过宿主机的 80 端口对外提供服务,最简单的做法是使用桥接模式并给容器分配一个独立的局域网 IP,然后在宿主机上用 iptables 做一次端口转发。如果你不喜欢 iptables,也可以选择端口映射模式,把容器的一个端口直接映射到宿主机的某个端口。容器内部就按照正常的 LAMP/LEMP 流程装环境。比起用宝塔这类面板,我更推荐手动安装 Nginx + PHP-FPM + MySQL,配置流程虽然多一点,但你能完全掌控每一个配置项,出问题了也好定位。5.2 Nginx + 数据库配置要点网站服务最短的路径是装好环境后直接上传源码,但有几个配置细节如果不处理,后续维护会很痛苦。Nginx 的配置里,我建议在 server 块中开启 gzip 压缩,并配置好静态文件的缓存策略。对于 PHP 动态站点,要修改fastcgi_params文件,补上常见的SCRIPT_FILENAME参数,否则会返回空白页或者 404。另外记得修改client_max_body_size的默认值,否则上传大附件时会直接 413 报错。数据库方面,MySQL 的max_connections默认值只有 151,对于个人博客绝对够用,但如果你跑的是某个开源程序,并发稍微高一点就可能被拒绝连接。可以提前把连接数上限调到 300,并把innodb_buffer_pool_size设置为物理内存的 60% 左右,这样能显著提升查询性能。5.3 数据备份与迁移方案建站服务器最怕的不是崩,而是崩了之后数据全丢。我习惯每天凌晨打包一次网站源码和数据库,存储到 PVE 的数据盘,再通过 cron 定期同步到另一台机器。具体做法是:网站源码放在 /www 目录,数据库用 mysqldump 导出为一个 SQL 文件,然后用 tar 打包并打上日期戳,保留最近 7 份备份。恢复时只需要把 tar 解包、把 SQL 导回数据库,整套流程耗时不超过 5 分钟。另一个需要提前做的工作是:给 LXC 容器创建快照。PVE 的快照功能可以在升级核心程序或修改配置文件之前手动触发一次,万一改坏了直接回滚。容器快照和备份不同,它依赖 LVM-Thin,所以前面说分区时要选择精简配置,原因就在这儿。6. AI 服务部署:P106 的正确打开方式6.1 GPU 直通:给 AI 应用分配显卡如果你只是在 PVE 宿主机上跑 AI 任务,其实也可以直接把 P106 驱动装到宿主机上,但考虑到环境隔离和可维护性,我仍然建议分配一个独立的 Linux 虚拟机,然后把 GPU 直通进去。GPU 直通的第一步是确认你的主板支持 VT-d。大多数 E3 平台的板子都有这个选项,在 BIOS 里找到并开启 Intel Virtualization Technology for Directed I/O。然后在 PVE 的 /etc/modprobe.d/ 下添加黑名单文件,把 NVIDIA 驱动和相关的 vfio-pci 模块做一次预绑定。这里有一个容易失败的细节:PVE 默认会加载 NVIDIA 的 nouveau 驱动,如果不提前黑名单,直通会直接失败。黑名单做好后,重启宿主机,然后在硬件列表里找到 P106 的 PCI 设备,把它的两个功能 ID(显卡本体和音频设备)都加到虚拟机的 PCI 设备列表中。直通完成进入虚拟机后,安装 NVIDIA 官方驱动之前,切记先禁用系统自带的 nouveau,再装驱动。这个顺序不对,你会陷入反复重启尝试的泥潭。6.2 本地大模型部署与运行优化P106 的 6GB 显存能跑什么规模的模型?我实测下来,7B 参数的量化模型(比如 Q4_K_M 量化格式)完全没问题,上下文窗口控制在 2048 到 4096 之间,推理速度大约在每秒 8 到 15 个 token,取决于序列长度和并发数。部署首选使用 llama.cpp 或者 Ollama,它们对显存的管理更精细,也支持把部分模型层卸载到内存。我的推荐做法是直接用 Ollama,因为它自带模型管理和 API 服务,配置简单,一行命令就能拉取模型并启动。在启动参数上,一定要留意OLLAMA_NUM_GPU和OLLAMA_MAX_LOADED_MODELS这两个环境变量。P106 的显存有限,默认会把模型全部加载到显存,如果显存不够就会报错。你可以设置为部分层数卸载到内存,比如把 GPU 层数设为 99,让所有能放进显存的层都放进去,剩余的层自动走内存推理,虽然速度会慢一点,但至少不会直接 OOM。6.3 Stability Diffusion 出图与显存管理如果你玩 Stable Diffusion,P106 的 6GB 显存跑 1.5 系列的模型绰绰有余,512x512 分辨率下出图压力不大,1024x1024 会比较吃力,需要开启显存优化选项。在启动 WebUI 时,加上--medvram或--lowvram参数,可以让 WebUI 自动调度显存,避免在生成大图时被 OOM 卡死。如果你的 P106 是通过 PCIe 1x 直通,还要注意加载模型那几秒钟的延迟会明显偏高,这是带宽限制导致的,属于正常现象,不用太担心。我实际操作时遇到的最大坑是显存释放不及时。连续生成多张图后,显存占用会越积越高,直到下一次生成直接报错。解决办法是安装一个显存清理插件,或者在生成间隔手动执行清 CUDA 缓存的命令。7. 常见问题与排查技巧实录7.1 开机没反应、PVE 启动失败类这类问题在 E3 平台上很常见,尤其是刷过 BIOS 的第三方改版主板。如果你按下电源键后风扇转、屏幕没信号,优先检查的是 P106 是否插紧,以及主板设置的启动显卡是不是错误的插槽。很多 E3 平台在同时插亮机卡和 P106 时,会把核显或亮机卡识别为主显示设备,导致 P106 的直通初始化失败。如果 PVE 启动过程中卡在某个地方不动,建议接上一块普通亮机卡,看看屏幕上的具体报错信息。最常见的是找不到引导盘或者 UEFI 模式不兼容,这时候改一下 BIOS 里的启动模式、重写 U 盘引导即可。7.2 GPU 直通后驱动异常类驱动异常是 P106 玩家最大的噩梦。常见故障有三种:GPU 直通后虚拟机启动黑屏、驱动安装报没有兼容设备、安装驱动后 system 崩溃重启。黑屏问题多数是因为没有给 GPU 刷一个支持 UEFI 启动的 BIOS,或者没有在 PVE 的虚拟机配置里开启 OVMF 模式。驱动装不上则要检查核心架构是否匹配,P106 的代号是 GP106,对应 NVIDIA 的 470 系驱动,别装成最新版通用驱动就能解决。崩溃重启通常是因为直通设备资源配置冲突,可以尝试在虚拟机的启动参数中加上pci=realloc强制重新分配 PCI 资源。7.3 内存不足与性能瓶颈类16G 内存跑这套系统,最常见的情况是容器创建多了之后宿主机内存吃紧。排查时先看free -h,如果可用内存已经低于 1G,说明需要调整 KSM 或减少闲置容器的内存分配。另一个常见瓶颈是磁盘 I/O,当 PVE 宿主机上多个虚拟机同时做磁盘操作时,一块普通机械盘会拖垮所有服务的响应速度。建议把 PVE 系统、容器和虚拟机系统盘全部放在 SSD 上,机械盘只做数据归档用途。CPU 瓶颈则相对少见,但如果你发现某个虚拟机 CPU 占用常年 100%,大概率是配置的内存太小导致系统大量换页,或者某个程序在跑死循环,这时候比加核心更重要的是加内存。8. 我给这套配置的最终评价(个人体验收尾)这套 E3 + 16G + P106 的组合,我前前后后调了一个多月,踩过的坑比写出来的还多。刚开始也怀疑过 P106 这种残缺卡到底能不能扛起 AI 推理的担子,但实测下来发现,在 7B 模型和 SD 出图这两个场景里,它的性价比确实无懈可击。如果你问我会不会推荐别人照着配一台,我的答案是:看你的预期。想靠它跑最新的超大模型和全功能的生产级服务,那肯定会有瓶颈;但如果你的需求就是本地跑一个专属的 AI 助手、开几个个人网站、挂一些自动化脚本,这套配置足够支撑一两年的折腾周期,而且二手总价可能还不到出去玩一顿饭的钱。最后再分享一个小技巧:给 P106 所在的虚拟机搭配一块普通亮机卡做备用启动,平时不接显示器,但遇到直通配置改坏、需要进系统排查的时候,亮机卡能救你无数次。这套配置的乐趣就在于折腾的过程,希望我踩过的坑能帮你省下几个晚上的时间。
坐拥 E3 神U 和 P106 矿卡这两块二手市场的大热门,把这套配置改造成一台集 AI 推理与建站于一体的全能服务器,是很多折腾党都想干的事。E3 的多核生产力在百元价位几乎没有对手,P106 这块被矿潮埋没的显卡又恰好拥有大显存和高吞吐量的底子,搭配 16G 内存做虚拟化平台,完全能变废为宝。这篇文章我会把硬件选型、PVE 虚拟化底层、GPU 直通、AI 推理部署和网站服务搭建的完整流程全部摊开讲,适合手里恰好有这套配置、又不想浪费性能的玩家照着抄作业。1. 这个方案到底值不值:先看清 E3 + P106 的家底1.1 E3 神U 的性价比逻辑所谓 E3 神教,核心就一句话:用接近 i5 的价格,买到接近当年至强服务器的多核性能。E3-1230 v2 或 v3 都是四核八线程,主频 3.3GHz 起步,关键是它支持的 ECC 内存虽然咱们用不上,但价格便宜、稳定性压倒性胜过同期家用平台,而且几乎所有支持它的主板都能稳定运行。用在虚拟化服务器场景,它的优势其实非常清晰。PVE 这种虚拟机管理平台本身就是靠多个 CPU 核心和线程并行工作的,四核八线程虽然不算很多,但用来跑一两个轻负载虚拟机、五六个 LXC 容器完全够用。更重要的是,E3 的 TDP 普遍在 69W 到 80W 之间,对电源要求低,长期开机运行的电费和散热压力都很小。当然也要认清它的短板:单核性能放到今天只能算是入门水平,跑那种对单核频率极度敏感的推理任务会有点吃亏。好在 AI 推理和大多数建站服务的瓶颈在内存带宽和显存,而非 CPU 单核浮点能力,所以并不会形成致命短板。1.2 P106 矿卡的特殊身世与真实性能P106-100 在当年是一块专门用于挖矿的显卡,核心规模和 GTX 1060 6G 几乎一致,显存也是 6GB GDDR5,但有几个硬件层面的差异需要我们留意。它没有视频输出接口,也就是说不能直接插显示器使用;同时它的 PCIe 通道被限制成要么 1x 要么 4x,对带宽极度敏感的图形渲染会有一定影响。但到了 AI 推理这个场景,情况就完全不同了。推理任务不像训练那样需要频繁地在显存和 CPU 之间交换大量数据,很多模型甚至可以在单次加载后连续处理请求,PCIe 带宽的影响被大幅压低。6GB 显存放到今天依然能跑很多量化后的模型,比如 7B 参数的 Q4 量化 LLM,或者 Stable Diffusion 1.5 系列出图,都不用担心显存溢出。所以我的结论是,P106 作为一张“AI 专用入门卡”是完全合格的,前提是你愿意折腾驱动补丁和直通配置。它最大的问题不是性能,而是缺少视频输出带来的调试障碍和驱动兼容性,这两点在后面会专门展开。1.3 16G 内存:不多不少,但要精打细算16G 内存跑虚拟化服务器是什么水平?坦白说是入门及格线,但不是随便造的。E3 平台搭配的是 DDR3 或 DDR4,二手内存价格已经很低了,但如果你不想继续加钱,就得学会给各个虚拟机分配合理的内存。我的分配习惯是:PVE 宿主机本身占用约 1.5G 到 2G 内存,一个负责建站的 LXC 容器分配 2G,一个专门跑 AI 推理的 Linux 虚拟机分配 6G 到 8G,剩下的留给缓存和快照。这样能够保证常用服务不互相挤占资源。需要注意的是,PVE 的 KSM 内存合并功能可以自动合并多个虚拟机中相同的内存页,开启之后能白嫖一点内存,对 16G 容量的机器来说很有意义。2. 整体设计与方案选型:为什么必须走 PVE 路线2.1 虚拟化路线怎么选:PVE 对比其他方案把 AI 服务和网站服务放在同一台物理机上,最直观的做法是直接在宿主机上装一个 Debian 或者 Ubuntu,然后通过 systemd 管理各种服务。但我强烈建议你不要这么做。原因很简单:AI 推理环境对 CUDA 驱动、Python 版本、PyTorch 版本的要求极其苛刻,而你建站用的 Nginx、MySQL 又希望保持一个长期稳定、不轻易升级底层库的状态。两者混装在一个系统里,迟早会因为依赖冲突而翻车。虚拟化的意义就是把这两套环境物理隔离,各管各的系统,坏了一个不影响另一个。PVE 在处理这种场景时有多重优势:它基于 Debian,底层稳定;支持 LXC 容器和 KVM 虚拟机两种模式;对 GPU 直通的支持非常成熟;社区文档多到你看不完。相比之下,VMware ESXi 虽然稳定,但免费版对直通的支持限制更多;Docker 虽然轻量,但无法做到内核级别的隔离,不适合跑需要自定义驱动的 AI 环境。2.2 三套核心负载的需求拆解这台服务器的负载主要分三大类:一是网站服务,典型场景是个人博客、项目官网、小型企业站。这类负载的特点是并发量不大,但对稳定性要求极高,数据库查询要快,页面响应要稳。适合用 LXC 容器承载,因为容器本身开销极低,启动速度快,备份和迁移也非常方便。二是AI 推理服务,包括本地大模型对话、Stable Diffusion 出图、简单的 OCR 识别等。这类负载的特点是吃显存、吃内存带宽,CPU 反而只用于预处理和调度。需要 GPU 直通,并且最好单独分配一个专用虚拟机,避免和建站服务争抢资源。三是日常开发与实验环境,可能是一次性的 Python 脚本、爬虫、数据清洗任务等。这类负载弹性太大,不适合固定分配资源,建议直接跑在 PVE 宿主机的特权容器里,用完即走,不占用额外的资源配额。把这三类负载拆分开后,你会发现整台服务器的资源调度变得非常清晰:CPU 主攻虚拟化调度和建站,GPU 负责 AI 推理,内存按照 2G + 6G + 2G 的格局分配,余量留给系统缓存。2.3 磁盘与系统分区策略这是很多人容易忽略的环节。E3 平台一般只能接 SATA 接口的固态硬盘,我建议至少准备两块:一块 120G 或 240G 的 SSD 作为 PVE 系统盘,一块容量更大的机械盘或 SSD 作为数据盘。系统盘只装 PVE 系统和虚拟机镜像文件,数据盘通过挂载点映射到各个虚拟机中,专门存放网站源码、数据库文件、AI 模型权重。这样做的核心好处是:系统盘坏了重装 PVE 不影响数据盘里的东西;同时模型权重文件动辄十几个 GB,如果都存放在系统盘里会很快把宝贵的 SSD 空间吃光。分区的时候,我建议 LVM 不要一次分配完,默认的 LVM-Thin 模式就很适合,因为后续创建虚拟机快照时需要用到精简配置的功能。3. 硬件准备与装机细节:每一步都算数3.1 板 U 内存的搭配要点E3 神教根据针脚不同分成两大阵营:E3 v2 对应 LGA1155 平台,搭配 B75 或 H61 主板;E3 v3 对应 LGA1150 平台,搭配 B85 或 H81 主板。如果你手头还没有主板,我更推荐 v3 平台,因为 B85 普遍支持 M.2 转接启动,也能更好地兼容 P106 的 UEFI 启动模式。内存方面,如果你的主板是 DDR3 插槽,直接买两条 8G DDR3 1600 组成双通道是最优解。很多人会纠结要不要买 ECC 内存,我的建议是没必要,因为你用的家用主板根本不可能提供 ECC 校验功能,买了也是浪费。另外非常关键的一点是:很多 E3 平台的主板在 BIOS 默认状态下对现代 UEFI 显卡支持得并不好。你需要在 BIOS 里开启 CSM 兼容模式或者 UEFI 引导,否则 P106 这类没有传统 Option ROM 的显卡可能无法完成直通初始化。3.2 P106 矿卡的供电与散热改造P106 的功耗大约在 120W 左右,理论上只需要一个 6 针供电口。但矿卡在二手市场上普遍经历过长时间高负载运行,供电部分的散热状态往往堪忧。我建议拿到手后第一时间拆开检查:如果散热器上的导热垫已经干裂,果断换新;如果核心硅脂已经硬成粉末,重新涂抹一层。这里有一个多数博主不会提的细节:P106 的散热器是公版涡轮或者单风扇方案,风扇转速策略经常失效,导致卡在低转速下散热不足。你可以用一个转接线把风扇改成由主板控制,或者直接在软件里写死风扇转速,让它在待机时保持 40% 转速,负载时拉到 80% 以上。散热改造的意义不仅仅是为了稳定运行,更是为了降低噪音和延长寿命。一台服务器如果放在家里,满载时风扇轰鸣绝对是灾难。3.3 硬盘与电源的取舍很多用户的机器里还躺着一块几十块钱的杂牌电源,这是整个服务器稳定性最大的隐患。E3 加 P106 的平台峰值功耗大约在 200W 到 250W 之间,一块额定 450W 的品牌电源会有很大余量。你可以用二手平台上常见的品牌电源,比那些全新不到一百的“炸弹电源”不知道稳妥多少倍。硬盘方面,SSD 一定要买带缓存的正规型号,别贪便宜买白片闪存盘,因为服务器需要 7x24 小时连续读写,杂牌固态极容易掉盘。机械盘只要不是坏道严重的,都可以长期使用,但建议用两块组软 RAID1 或者干脆定时备份到移动硬盘。4. PVE 安装与基础调优:从 U 盘到开机全流程4.1 PVE 安装过程中的几个关键选项PVE 的安装流程非常标准化,需要注意的关键选项其实就几个。写盘工具推荐用 Rufus,写入模式选择 DD 镜像写入而不是 ISO 模式,否则引导会失败。安装时的键盘布局选择美式英语,时区改成 Asia/Shanghai,之后在系统内再统一调整。安装到磁盘选择时,尽量不要把整块大硬盘全部交给 PVE。我习惯把系统盘容量控制在 120G 以内,如果只有一块 1T 的硬盘,也建议你在分配磁盘大小时只给它让系统用一部分空间,剩下的空间等装完系统后再通过 LVM 命令手动分配给数据存储。网络配置这一步也容易踩坑。PVE 安装时会要求你填写 IP 地址、网关和 DNS,这里建议直接规划好,后面基本不用再改。比如我可以把它设在 192.168.1.10/24,网关指向路由器。如果你乱填,装完系统后进不了 web 界面会非常麻烦。4.2 更换软件源与基础系统优化PVE 默认的软件源是在国外的,如果国内网络环境下不换源,后续安装更新包会慢到怀疑人生。这一步不用多说,直接参照官方文档或社区教程,把订阅源替换成社区免费源或国内镜像源即可。基础优化方面,第一个要动的是开启 KSM 内存合并。在 PVE 的 Web 界面中,数据中心 -> 选项里可以开启 KSM,这会明显减少多个虚拟机之间的重复内存页。第二个要优化的是 CPU governor,把默认的 powersave 模式改成 performance 或者 ondemand,避免 CPU 在低负载时自动降频,导致推理任务启动瞬间卡顿。还有一个实用小技巧:SSH 登录 PVE 后,把 nano 换成 vim,然后安装一些常用的网络工具,比如 curl、htop、iotop、iftop,方便后续排查问题。4.3 网络桥接与静态 IP 规划PVE 默认会创建一个名为 vmbr0 的 Linux Bridge,把所有物理网卡接口都绑定到这个虚拟桥上,虚拟机通过这个桥接直接连接物理局域网。这个设计在大多数家用环境里都很好使,不需要额外配置。但如果你有多块网卡,我建议把管理口和虚拟机的数据口分开。比如我给 PVE 管理界面单独分配一个网口,把虚拟机流量挂到另一个网口上,这样即使虚拟机出现广播风暴或者大流量下载,也不会影响你访问 PVE 管理界面。静态 IP 规划也很有讲究。我给整套局域网设计了一个简单的分配表:PVE 宿主机是 .10,路由器是 .1,网站容器是映射到宿主机的 80 端口,因此容器本身可以随便分配一个内网 IP;AI 推理虚拟机为了便于后续通过 API 调用,固定一个独立的 IP,并把 8000、7860 等端口通过防火墙规则暴露给局域网。5. 建站服务的落地:给站点一台稳定的家5.1 使用 LXC 容器承载网站服务LXC 容器比虚拟机轻量得多,因为它直接共享宿主机的内核,不需要模拟硬件。创建一个 Ubuntu 或者 Debian 的 LXC 容器,分配 2G 内存和 2 核 CPU,就足够跑一个 Wordpress 或者 Typecho 博客了。创建容器时,我记得一个关键问题是网络配置。如果你想让网站直接通过宿主机的 80 端口对外提供服务,最简单的做法是使用桥接模式并给容器分配一个独立的局域网 IP,然后在宿主机上用 iptables 做一次端口转发。如果你不喜欢 iptables,也可以选择端口映射模式,把容器的一个端口直接映射到宿主机的某个端口。容器内部就按照正常的 LAMP/LEMP 流程装环境。比起用宝塔这类面板,我更推荐手动安装 Nginx + PHP-FPM + MySQL,配置流程虽然多一点,但你能完全掌控每一个配置项,出问题了也好定位。5.2 Nginx + 数据库配置要点网站服务最短的路径是装好环境后直接上传源码,但有几个配置细节如果不处理,后续维护会很痛苦。Nginx 的配置里,我建议在 server 块中开启 gzip 压缩,并配置好静态文件的缓存策略。对于 PHP 动态站点,要修改fastcgi_params文件,补上常见的SCRIPT_FILENAME参数,否则会返回空白页或者 404。另外记得修改client_max_body_size的默认值,否则上传大附件时会直接 413 报错。数据库方面,MySQL 的max_connections默认值只有 151,对于个人博客绝对够用,但如果你跑的是某个开源程序,并发稍微高一点就可能被拒绝连接。可以提前把连接数上限调到 300,并把innodb_buffer_pool_size设置为物理内存的 60% 左右,这样能显著提升查询性能。5.3 数据备份与迁移方案建站服务器最怕的不是崩,而是崩了之后数据全丢。我习惯每天凌晨打包一次网站源码和数据库,存储到 PVE 的数据盘,再通过 cron 定期同步到另一台机器。具体做法是:网站源码放在 /www 目录,数据库用 mysqldump 导出为一个 SQL 文件,然后用 tar 打包并打上日期戳,保留最近 7 份备份。恢复时只需要把 tar 解包、把 SQL 导回数据库,整套流程耗时不超过 5 分钟。另一个需要提前做的工作是:给 LXC 容器创建快照。PVE 的快照功能可以在升级核心程序或修改配置文件之前手动触发一次,万一改坏了直接回滚。容器快照和备份不同,它依赖 LVM-Thin,所以前面说分区时要选择精简配置,原因就在这儿。6. AI 服务部署:P106 的正确打开方式6.1 GPU 直通:给 AI 应用分配显卡如果你只是在 PVE 宿主机上跑 AI 任务,其实也可以直接把 P106 驱动装到宿主机上,但考虑到环境隔离和可维护性,我仍然建议分配一个独立的 Linux 虚拟机,然后把 GPU 直通进去。GPU 直通的第一步是确认你的主板支持 VT-d。大多数 E3 平台的板子都有这个选项,在 BIOS 里找到并开启 Intel Virtualization Technology for Directed I/O。然后在 PVE 的 /etc/modprobe.d/ 下添加黑名单文件,把 NVIDIA 驱动和相关的 vfio-pci 模块做一次预绑定。这里有一个容易失败的细节:PVE 默认会加载 NVIDIA 的 nouveau 驱动,如果不提前黑名单,直通会直接失败。黑名单做好后,重启宿主机,然后在硬件列表里找到 P106 的 PCI 设备,把它的两个功能 ID(显卡本体和音频设备)都加到虚拟机的 PCI 设备列表中。直通完成进入虚拟机后,安装 NVIDIA 官方驱动之前,切记先禁用系统自带的 nouveau,再装驱动。这个顺序不对,你会陷入反复重启尝试的泥潭。6.2 本地大模型部署与运行优化P106 的 6GB 显存能跑什么规模的模型?我实测下来,7B 参数的量化模型(比如 Q4_K_M 量化格式)完全没问题,上下文窗口控制在 2048 到 4096 之间,推理速度大约在每秒 8 到 15 个 token,取决于序列长度和并发数。部署首选使用 llama.cpp 或者 Ollama,它们对显存的管理更精细,也支持把部分模型层卸载到内存。我的推荐做法是直接用 Ollama,因为它自带模型管理和 API 服务,配置简单,一行命令就能拉取模型并启动。在启动参数上,一定要留意OLLAMA_NUM_GPU和OLLAMA_MAX_LOADED_MODELS这两个环境变量。P106 的显存有限,默认会把模型全部加载到显存,如果显存不够就会报错。你可以设置为部分层数卸载到内存,比如把 GPU 层数设为 99,让所有能放进显存的层都放进去,剩余的层自动走内存推理,虽然速度会慢一点,但至少不会直接 OOM。6.3 Stability Diffusion 出图与显存管理如果你玩 Stable Diffusion,P106 的 6GB 显存跑 1.5 系列的模型绰绰有余,512x512 分辨率下出图压力不大,1024x1024 会比较吃力,需要开启显存优化选项。在启动 WebUI 时,加上--medvram或--lowvram参数,可以让 WebUI 自动调度显存,避免在生成大图时被 OOM 卡死。如果你的 P106 是通过 PCIe 1x 直通,还要注意加载模型那几秒钟的延迟会明显偏高,这是带宽限制导致的,属于正常现象,不用太担心。我实际操作时遇到的最大坑是显存释放不及时。连续生成多张图后,显存占用会越积越高,直到下一次生成直接报错。解决办法是安装一个显存清理插件,或者在生成间隔手动执行清 CUDA 缓存的命令。7. 常见问题与排查技巧实录7.1 开机没反应、PVE 启动失败类这类问题在 E3 平台上很常见,尤其是刷过 BIOS 的第三方改版主板。如果你按下电源键后风扇转、屏幕没信号,优先检查的是 P106 是否插紧,以及主板设置的启动显卡是不是错误的插槽。很多 E3 平台在同时插亮机卡和 P106 时,会把核显或亮机卡识别为主显示设备,导致 P106 的直通初始化失败。如果 PVE 启动过程中卡在某个地方不动,建议接上一块普通亮机卡,看看屏幕上的具体报错信息。最常见的是找不到引导盘或者 UEFI 模式不兼容,这时候改一下 BIOS 里的启动模式、重写 U 盘引导即可。7.2 GPU 直通后驱动异常类驱动异常是 P106 玩家最大的噩梦。常见故障有三种:GPU 直通后虚拟机启动黑屏、驱动安装报没有兼容设备、安装驱动后 system 崩溃重启。黑屏问题多数是因为没有给 GPU 刷一个支持 UEFI 启动的 BIOS,或者没有在 PVE 的虚拟机配置里开启 OVMF 模式。驱动装不上则要检查核心架构是否匹配,P106 的代号是 GP106,对应 NVIDIA 的 470 系驱动,别装成最新版通用驱动就能解决。崩溃重启通常是因为直通设备资源配置冲突,可以尝试在虚拟机的启动参数中加上pci=realloc强制重新分配 PCI 资源。7.3 内存不足与性能瓶颈类16G 内存跑这套系统,最常见的情况是容器创建多了之后宿主机内存吃紧。排查时先看free -h,如果可用内存已经低于 1G,说明需要调整 KSM 或减少闲置容器的内存分配。另一个常见瓶颈是磁盘 I/O,当 PVE 宿主机上多个虚拟机同时做磁盘操作时,一块普通机械盘会拖垮所有服务的响应速度。建议把 PVE 系统、容器和虚拟机系统盘全部放在 SSD 上,机械盘只做数据归档用途。CPU 瓶颈则相对少见,但如果你发现某个虚拟机 CPU 占用常年 100%,大概率是配置的内存太小导致系统大量换页,或者某个程序在跑死循环,这时候比加核心更重要的是加内存。8. 我给这套配置的最终评价(个人体验收尾)这套 E3 + 16G + P106 的组合,我前前后后调了一个多月,踩过的坑比写出来的还多。刚开始也怀疑过 P106 这种残缺卡到底能不能扛起 AI 推理的担子,但实测下来发现,在 7B 模型和 SD 出图这两个场景里,它的性价比确实无懈可击。如果你问我会不会推荐别人照着配一台,我的答案是:看你的预期。想靠它跑最新的超大模型和全功能的生产级服务,那肯定会有瓶颈;但如果你的需求就是本地跑一个专属的 AI 助手、开几个个人网站、挂一些自动化脚本,这套配置足够支撑一两年的折腾周期,而且二手总价可能还不到出去玩一顿饭的钱。最后再分享一个小技巧:给 P106 所在的虚拟机搭配一块普通亮机卡做备用启动,平时不接显示器,但遇到直通配置改坏、需要进系统排查的时候,亮机卡能救你无数次。这套配置的乐趣就在于折腾的过程,希望我踩过的坑能帮你省下几个晚上的时间。