人工智能大模型微调模型推理服务【免费下载链接】PaddleFormersPaddleFormers is an easy-to-use library of pre-trained large language model zoo based on PaddlePaddle.项目地址https://gitcode.com/gh_mirrors/pa/PaddleFormers点击查看免费下载本文以 PaddleHub 开源仓库中的yolov3_resnet34_coco2017目标检测模块为主线系统讲解该模块的安装方式、命令行与 Python API 两种预测路径、底层推理实现原理以及通过 PaddleHub Serving 一键部署在线检测服务的完整流程。读完本文你将掌握该 COCO2017 预训练 YOLOv3 模型的端到端使用方法并能结合源码理解其数据预处理与后处理细节。一、模块基本信息与背景yolov3_resnet34_coco2017是 PaddleHub 生态中一个开箱即用的目标检测Object Detection预训练模型官方信息如下表项目内容Module Nameyolov3_resnet34_coco2017Categoryobject detectionNetworkYOLOv3DatasetCOCO2017Fine-tuning supported or notNoModule Size164MBLatest update date2021-03-15YOLOv3 是 Joseph Redmon 与 Ali Farhadi 提出的单阶段one-stage检测器与达到同等精度的传统目标检测方法相比推理速度可接近两倍。该检测器将输入图像划分为网格并对每个格子预测 bounding box其损失函数由 Location 误差、Confidence 误差和分类误差三部分组成。本模块以 YOLOv3 为网络结构、ResNet34 为骨干网络在 COCO2017 数据集上完成预训练可对输入图片中的人、动物、车辆、日常用品等 80 类目标进行位置检测与类别判定完整类别清单见 label_file.txt。需要特别注意的是该模块仅支持预测推理不支持 Fine-tuning。在仓库源码中模块通过 module.py 的moduleinfo装饰器登记元信息name、version、type 等其版本信息1.1.0与 README 中「Remove fluid api」的更新记录一致说明当前仓库中的实现已迁移至新版 Paddle 推理接口。二、环境依赖与安装1. 环境依赖运行该模块需要满足以下版本要求paddlepaddle 1.6.2paddlehub 1.6.0PaddleHub 的完整安装指引可参考 PaddleHub installation guide若在安装过程中遇到环境问题可对照以下快速上手指南排查Windows QuickstartLinux QuickstartMac Quickstart2. 安装模块在满足依赖的前提下执行一条命令即可完成模块安装$ hub install yolov3_resnet34_coco2017安装完成后可通过hub list查看本地已安装的模块列表或用hub show yolov3_resnet34_coco2017查看模块的名称、版本、描述、作者等属性参见 PaddleHub Command Line Tool 文档。如需安装指定历史版本可附加版本号$ hub install yolov3_resnet34_coco20171.1.0从 module.py 可见模块的作者信息为paddlepaddle、版本为1.1.0、类型为CV/object_detection与官方登记信息一致。三、命令行预测hub runPaddleHub 为 CV 类任务统一提供了--input_path输入方式。安装完成后可用下面的命令对单张图片执行目标检测$ hub run yolov3_resnet34_coco2017 --input_path /PATH/TO/IMAGE这条命令之所以能够工作是因为模块类中的run_cmd方法被打上了runnable装饰器见 module.pyPaddleHub 的命令行框架会据此把hub run参数路由到该方法。从源码看命令行预测支持以下可选参数参数类型默认值说明--input_pathstr必填输入图片路径--batch_sizeint1批大小--use_gpuboolFalse是否使用 GPU 推理--output_dirstrdetection_result结果图片保存目录--score_threshfloat0.5检测置信度阈值--visualizationboolFalse是否将结果保存为图片一个结合多参数的完整示例$ hub run yolov3_resnet34_coco2017 --input_path ./test.jpg --score_thresh 0.6 --use_gpu True --visualization True注意命令行默认visualizationFalse若要落盘可视化结果需显式开启。更多关于hub run及其他命令hub install、hub uninstall、hub search、hub download等的说明见 PaddleHub Command Line Tool 文档。四、Python API 预测1. 预测代码示例在 Python 脚本中通过hub.Module加载模型并调用object_detection接口即可完成推理import paddlehub as hub import cv2 object_detector hub.Module(nameyolov3_resnet34_coco2017) result object_detector.object_detection(images[cv2.imread(/PATH/TO/IMAGE)]) # or # result object_detector.object_detection(paths[/PATH/TO/IMAGE])paths与images两种传参方式二选一即可二者不能混用。加载模块时若本地不存在PaddleHub 会自动向服务器请求下载对应资源参见 paddlehub/module/module.py 中Module的初始化逻辑。2. object_detection API 详解def object_detection(pathsNone, imagesNone, batch_size1, use_gpuFalse, output_dirdetection_result, score_thresh0.5, visualizationTrue)该 API 用于检测输入图片中所有目标的位置各参数含义如下参数类型默认值说明pathslist[str]None图片路径列表imageslist[numpy.ndarray]None图片数据列表每个 ndarray.shape 为[H, W, C]BGR 格式batch_sizeint1批大小use_gpuboolFalse是否使用 GPU使用 GPU 前必须先设置CUDA_VISIBLE_DEVICES环境变量output_dirstrdetection_result结果图片保存路径score_threshfloat0.5识别置信度阈值visualizationboolTrue是否将识别结果保存为图片文件返回值res为一个list[dict]每个元素对应一张输入图片结构如下datalist检测结果列表中每个元素为 dict字段包括confidencefloat识别置信度labelstr目标类别标签leftint检测框左上角 x 坐标topint检测框左上角 y 坐标rightint检测框右下角 x 坐标bottomint检测框右下角 y 坐标save_pathstr可选结果图片的保存路径仅当visualizationTrue时存在从源码看object_detection内部会先校验 GPU 使用条件module.py当use_gpuTrue但CUDA_VISIBLE_DEVICES未正确设置时会抛出RuntimeError提示。随后通过paddle.batch构造批读取器逐批把预处理后的图片与原始尺寸喂入 Paddle Inference 预测器并将输出交给后处理函数module.py。3. save_inference_model APIdef save_inference_model(dirname)将模型导出保存到指定路径dirname导出结果包含model.pdmodel与model.pdiparams两个文件可直接用于 Paddle Inference 部署。该能力由 paddlehub/module/module.py 中的save_inference_model实现它会加载静态图模型并调用paddle.static.save_inference_model完成导出。五、源码级原理从输入图片到检测结果1. 数据预处理data_feed.py模块的输入流水线定义在 data_feed.py其reader生成器对每张图片执行如下处理读取原始尺寸im_shape记录为im_size用于后续坐标还原将 BGR 图像转为 RGBcv2.cvtColor(im, cv2.COLOR_BGR2RGB)以target_size 608为基准按宽高比例等比缩放cv2.resize归一化先除以 255再减去均值mean [0.485, 0.456, 0.406]、除以标准差std [0.229, 0.224, 0.225]即 ImageNet 标准归一化参数通过np.swapaxes将 HWC 布局置换为 CHW最终产出[归一化图像, im_size]二元组作为预测器输入。2. 推理执行与后处理processor.py预测器的构建逻辑位于 module.pyCPU 与 GPU 各维护一个 Paddle Inference predictor模型文件为yolov3_resnet34_model/model.pdmodel与.pdiparams。后处理函数postprocess位于 processor.py核心步骤包括依据输出张量的 LoDlength of sequence信息切分每条样本的检测结果过滤置信度低于score_thresh的检测框通过clip_bbox将检测框坐标裁剪到原图范围内processor.py使用label_file.txt中的类别名映射category_id得到label当visualizationTrue时调用draw_bounding_box_on_imageprocessor.py在原图上绘制红色边框并在框上方标注label: xx.xx%的置信度文本保存到output_dir。3. 测试用例验证仓库提供了完整的单元测试 test.py可直接python test.py运行覆盖以下场景paths传图与images传图两种方式的检测结果一致性均断言识别出cat且置信度 0.5visualizationFalse时仅返回坐标结果、不落盘图片非法图片路径会抛出AssertionError传入非 ndarray 的images会抛出AttributeErrorsave_inference_model(./inference/model)后能正确生成model.pdmodel与model.pdiparams。这些用例既是回归保障也是理解 API 行为边界的绝佳参考。六、服务化部署PaddleHub ServingPaddleHub Serving 可以将该目标检测模块一键部署为在线 HTTP 服务。第一步启动 PaddleHub Serving$ hub serving start -m yolov3_resnet34_coco2017执行后即完成目标检测服务化 API 的部署默认端口号为 8866。注意如需使用 GPU 预测请在启动服务前设置CUDA_VISIBLE_DEVICES环境变量纯 CPU 场景则无需设置。从 paddlehub/commands/serving.py 的源码可以看出hub serving还支持更精细的配置--port/-p自定义服务端口默认 8866--use_gpu开启 GPU 预测--use_multiprocess多进程模式Windows 不支持--config/-c通过 JSON 配置文件批量指定模块、端口、worker 数等参数。服务启动时PaddleHub 会先预加载模块preinstall_modules并校验模块是否具备serving标记的服务方法serving.py。本模块的serving_method方法被打上了serving装饰器module.py它会将请求中的 base64 图片解码为 ndarray 后转发给object_detection。第二步发送预测请求服务就绪后可用以下代码发送预测请求并获取结果import requests import json import cv2 import base64 def cv2_to_base64(image): data cv2.imencode(.jpg, image)[1] return base64.b64encode(data.tostring()).decode(utf8) # Send an HTTP request data {images: [cv2_to_base64(cv2.imread(/PATH/TO/IMAGE))]} headers {Content-type: application/json} url http://127.0.0.1:8866/predict/yolov3_resnet34_coco2017 r requests.post(urlurl, headersheaders, datajson.dumps(data)) # print prediction results print(r.json()[results])请求体中的images字段为图片的 base64 编码列表对应serving_method的入参服务端解码后即走object_detection的完整推理链路返回与 Python API 一致的data含 label、confidence、left、top、right、bottom与save_path字段。七、更新历史Release Note版本说明1.0.0初始发布1.0.2修复 numpy 数据读取问题1.1.0移除 fluid api当前仓库源码即对应此版本如需回退到指定版本可执行$ hub install yolov3_resnet34_coco20171.1.0总结yolov3_resnet34_coco2017是一个典型的「即装即用」型 PaddleHub CV 模块通过hub install一键安装通过hub run或hub.Module的object_detectionAPI 完成单张/批量图片检测通过hub serving start在数分钟内上线 HTTP 推理服务。结合仓库内的 module.py、data_feed.py、processor.py 与 test.py读者可以清晰地复现其「608 等比缩放 → ImageNet 归一化 → 静态图推理 → LoD 解析 → 坐标裁剪与可视化」的完整技术链路并以此为模板扩展到 PaddleHub 生态中其他目标检测模块的使用与二次开发。赞分享人工智能大模型微调模型推理服务【免费下载链接】PaddleFormersPaddleFormers is an easy-to-use library of pre-trained large language model zoo based on PaddlePaddle.项目地址https://gitcode.com/gh_mirrors/pa/PaddleFormers点击查看免费下载相关推荐PaddleHub 目标检测模块实战使用 yolov3_resnet34_coco2017 完成检测、命令行调用与 Serving 部署PaddleHub 目标检测模块实战使用 yolov3_resnet34_coco2017 完成检测、命令行调用与 Serving 部署 本篇文章以 Padd人工智能大模型微调模型推理服务PaddleHub 行人检测实战指南yolov3_darknet53_pedestrian 模块的安装、API 预测与服务化部署PaddleHub 行人检测实战指南yolov3_darknet53_pedestrian 模块的安装、API 预测与服务化部署 本文以 PaddleHub人工智能大模型微调模型推理服务使用 PaddleHub 的 yolov3_darknet53_coco2017 模块进行目标检测安装、预测 API 与 Serving 部署全指南使用 PaddleHub 的 yolov3_darknet53_coco2017 模块进行目标检测安装、预测 API 与 Serving 部署全指南 本指南以人工智能大模型微调模型推理服务上一篇Gemini CLI google_web_search 工具深度解析实时网络检索、Grounding 摘要与引用标注机制下一篇Genesis 机器人仿真中的 URDF 模型凸分解完整入门指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考