InsightFace-REST Docker Compose部署全指南:单GPU到多GPU方案
InsightFace-REST Docker Compose部署全指南单GPU到多GPU方案【免费下载链接】InsightFace-RESTInsightFace REST API for easy deployment of face recognition services with TensorRT in Docker.项目地址: https://gitcode.com/gh_mirrors/in/InsightFace-RESTInsightFace-REST 是一个生产级的人脸检测与人脸识别 REST API 服务基于 FastAPI 构建并针对 NVIDIA TensorRT 做了高性能推理优化。通过 Docker Compose你可以在几分钟内完成部署——无论使用单张 GPU、多张 GPU还是没有显卡的纯 CPU 环境。本文带你从环境准备到多 GPU 负载均衡完整走通这套人脸服务的一键安装流程。项目概览它能为你的应用做什么InsightFace-REST 把 InsightFace 的完整识别流水线封装成了 HTTP 接口核心能力包括高性能推理默认配置下 RTX 4090 可达 820 fps换用更轻的模型还能更快容器化部署官方提供 GPU 与 CPU 两套 Docker 镜像模型自动下载SCRFD、YOLOv5-face 检测器 ArcFace 系识别模型开箱即用批量推理检测与识别模型均支持 batch 推理⚙️多后端GPU 用 TensorRTCPU 用 ONNX Runtime下图就是它处理万人合影的实测效果——每张脸都被框出并标注了置信度部署前准备一键安装所需环境清单在开始之前请确认你的服务器已具备以下条件组件要求Docker最新稳定版NVIDIA Container Toolkit已安装并可用NVIDIA 驱动535 或更新版本GPU支持 TensorRT 的兼容显卡CPU 部署可跳过准备工作完成后克隆仓库并进入部署目录git clone https://gitcode.com/gh_mirrors/in/InsightFace-REST cd InsightFace-REST/compose所有部署方案都集中在compose/目录中官方也提供了对应的说明文档compose/README.md可对照本文查看。单GPU部署最快上手的路径单 GPU 是最常见的场景对应compose/docker-compose.yml。整个流程只有四步第 1 步准备配置文件cp example.env .env.env文件集中管理所有参数模型选择、worker 数量、推理精度等示例配置在compose/example.env中有完整注释。第 2 步构建镜像docker compose build第 3 步启动服务docker compose up第 4 步访问 API 文档打开浏览器访问http://localhost:18081/docs你会看到 FastAPI 自动生成的交互式文档支持直接在线调用/extract接口测试人脸识别效果 首次启动时容器会自动下载模型并编译 TensorRT 引擎耗时取决于网络与显卡请耐心等待 healthcheck 通过。多GPU部署双卡并行 Nginx负载均衡如果你的服务器有多张 GPU可以用compose/docker-compose-multi-gpu.yml它为每张卡启动一个服务容器ifr-trt-gpu0、ifr-trt-gpu1再挂一个 Nginx 容器做负载均衡。如果偏好 Docker Compose v2 的 profiles 语法compose/docker-compose-v2.yml用一条命令即可切换方案# 单GPU docker compose -f docker-compose-v2.yml --profile gpu up --build # 双GPUNginx负载均衡 docker compose -f docker-compose-v2.yml --profile mgpu up --build⚠️多 GPU 部署有两个容易踩的坑首次启动的竞态问题多容器同时启动时会各自下载模型、编译 TRT 引擎。正确姿势是先用单 GPU 启动一次等模型下载和引擎编译完成后再切回多 GPU 启动。TRT 引擎与显卡型号绑定如果机器上混用不同型号的 GPU需要为不同 GPU 指定不同的模型目录确保各自加载正确的.plan文件。另一个细节多 GPU 方案因为经过 Nginx 代理对外端口从单卡模式的18081变为18080。Nginx 的配置位于misc/nginx_conf/conf.d/default.conf。CPU部署没有显卡也能跑没有 GPU 也不怕。compose/docker-compose-cpu.yml使用 ONNX Runtime 后端配合compose/cpu.env配置docker compose -f docker-compose-cpu.yml up注意 CPU 模式下cpu.env已将INFERENCE_BACKEND设为onnx批处理大小也会调低适合验证流程或对延迟不敏感的轻量场景。关键配置调优.env 中最重要的几个参数部署完成后按需修改.env即可调优性能与效果参数说明建议DET_NAME人脸检测模型scrfd / yolov5-face 等追求速度选scrfd_500m_bnkpsREC_NAME人脸识别模型w600k_r50、glintr100 等平衡精度与速度NUM_WORKERS每容器工作进程数现代 GPU 上 4-6 个通常就是性能上限过多会 CUDA OOMMAX_SIZE输入图像最大尺寸越小越快注意 SCRFD 要求边长可被 32 整除INFERENCE_BACKENDtrtGPU或onnxCPU按硬件选择FORCE_FP16强制 FP16 精度支持的 GPU 上可提速官方建议以NUM_WORKERS为第一调优项从小往大加直到出现 CUDA Out of Memory 后回退一档。验证部署一张万人图测试极限服务起来后最直观的验证方式是处理大场景图片。项目内置了misc/test_images/lumia.jpg——一张包含数百张人脸的世界最大自拍照常被用作检测性能的基准测试图通过 API 文档页或 Python 客户端库ifr_clients/发起请求确认返回的faces数量与vec特征向量符合预期即说明整条部署链路已打通。常见问题快速排查模型下载失败默认从 Google Drive 拉取模型网络受限地区可手动下载后放入models/目录CUDA Out of Memory调小NUM_WORKERS或REC_BATCH_SIZE端口访问不通单卡用18081多卡经 Nginx 用18080注意别混Numba 缓存报错仓库更新后可能出现模块缺失清理__pycache__目录即可写在最后InsightFace-REST 把复杂的人脸识别推理栈压缩成了克隆仓库 → 改配置 → docker compose up三步单卡、多卡、纯 CPU 三种形态开箱即用。对于需要在生产环境快速落地人脸识别能力的团队来说这是一份相当省心的部署方案。【免费下载链接】InsightFace-RESTInsightFace REST API for easy deployment of face recognition services with TensorRT in Docker.项目地址: https://gitcode.com/gh_mirrors/in/InsightFace-REST创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Nix RFCs角色指南:RFC委员会、Shepherd团队与Shepherd Leader如何分工

Nix RFCs角色指南:RFC委员会、Shepherd团队与Shepherd Leader如何分工

Nix RFCs角色指南:RFC委员会、Shepherd团队与Shepherd Leader如何分工 【免费下载链接】rfcs The Nix community RFCs 项目地址: https://gitcode.com/gh_mirrors/rfcs2/rfcs 想参与 Nix 生态的重大变更?先搞懂 Nix RFCs 仓库中的三种关键角色&am…

2026/11/15 7:14:58 阅读更多 →
Ventoy 多系统启动盘:把树莓派4B变成一插多系统的救援盘

Ventoy 多系统启动盘:把树莓派4B变成一插多系统的救援盘

Ventoy 多系统启动盘:把树莓派4B变成一插多系统的救援盘 【免费下载链接】Ventoy A new bootable USB solution. 项目地址: https://gitcode.com/GitHub_Trending/ve/Ventoy 手边有块树莓派4B,想拿它当多系统救援盘:Linux、Windows PE…

2026/10/28 1:31:46 阅读更多 →
SQLIndexManager列存储索引维护专题:从行组压缩到一键将堆转换为CCI

SQLIndexManager列存储索引维护专题:从行组压缩到一键将堆转换为CCI

SQLIndexManager列存储索引维护专题:从行组压缩到一键将堆转换为CCI 【免费下载链接】SQLIndexManager Free GUI Tool for Index Maintenance on SQL Server and Azure 项目地址: https://gitcode.com/gh_mirrors/sq/SQLIndexManager SQL Index Manager&…

2026/10/21 5:29:57 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/20 23:27:28 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/20 23:27:28 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/20 23:27:28 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/20 21:55:32 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/20 23:27:28 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/20 22:59:12 阅读更多 →

日新闻

周新闻

月新闻