Ascend C 算子实战(二)|SigmoidCustom 逐元素激活算子完整开发指南
前言前面我们完成了 AddCustom、SubCustom 二元逐元素算子开发吃透了「Host 调度 AICore 核内流水线」标准化开发框架。本次进阶实现单输入激活算子 SigmoidCustom完整落地 sigmoid (x) 1/(1exp (-x)) 算法。 相比加减二元算子Sigmoid 仅单输入张量核内新增 Muls/Exp/Adds/Duplicate/Div 基础数学算子串联计算同时文中会一并解答代码里高频疑问BUFFER_NUM 作用、字节长度计算、uint8_t 指针强转、Host/Device 内存区分等底层原理完整可编译无语法错误附带 CPU 真值校验函数一键验证算子精度。一、开发需求说明算子名称SigmoidCustom计算公式\(sigmoid(x) \frac{1}{1 e^{-x}}\)数据类型输入输出均为 float数据总量固定长度8*2048多 Block 均分并行处理开发范围Kernel 设备端代码 Host 主机调度代码 结果校验主程序二、完整优化后代码修复拼写 规范格式 注释补全c#include cstdint #include iostream #include vector #include cmath #include algorithm #include iterator #include acl/acl.h #include kernel_operator.h using namespace AscendC; using namespace std; // 流水线全局配置 constexpr uint32_t BUFFER_NUM 2; // 队列缓存张量数量流水线并行缓冲 constexpr uint32_t QUEUE_DEPTH 2; // TQue队列深度控制异步读写容量 // Tiling分片参数Host向Kernel传递全局数据长度、单核分块数 struct TilingData { uint32_t totalLength; // 全部输入数据总长度 uint32_t tileNum; // 单个AICore内部细分块数量 }; // Sigmoid核计算封装类CopyIn-Compute-CopyOut标准三段式流水线 class KernelSigmoid { public: __aicore__ inline KernelSigmoid() {} /// brief 初始化内存分片计算 GlobalTensor绑定 流水线队列内存分配 /// param x 输入全局内存地址 /// param y 输出全局内存地址 /// param totalLength 数据集总长度 /// param tileNum 单内核分块数量 __aicore__ inline void Init(GM_ADDR x, GM_ADDR y, uint32_t totalLength, uint32_t tileNum) { // 1. 均分数据每个Block(AICore)独占一段数据 blockLength totalLength / GetBlockNum(); this-tileNum tileNum; // 细分小块长度适配本地L0/L1缓存BUFFER_NUM用于双缓冲流水线 tileLength blockLength / this-tileNum / BUFFER_NUM; // 2. 绑定当前Block专属全局内存区间多核心数据隔离无冲突 xGm.SetGlobalBuffer((__gm__ float*)x blockLength * GetBlockIdx(), blockLength); yGm.SetGlobalBuffer((__gm__ float*)y blockLength * GetBlockIdx(), blockLength); // 3. 流水线队列内存初始化BUFFER_NUM2实现双缓冲一边读一边算提升吞吐 pipe.InitBuffer(inQueueX, BUFFER_NUM, tileLength * sizeof(float)); pipe.InitBuffer(outQueueY, BUFFER_NUM, tileLength * sizeof(float)); } /// brief 整体流水线调度入口循环执行数据载入-计算-结果写出 __aicore__ inline void Process() { int32_t loopCount tileNum * BUFFER_NUM; for (int32_t i 0; i loopCount; i) { CopyIn(i); Compute(i); CopyOut(i); } } private: /// brief CopyIn全局GM内存搬运数据至AICore本地VEC输入队列 __aicore__ inline void CopyIn(int32_t progress) { LocalTensorfloat xLocal inQueueX.AllocTensorfloat(); DataCopy(xLocal, xGm[progress * tileLength], tileLength); inQueueX.EnQue(xLocal); } /// brief Compute串联Ascend C底层算子实现sigmoid数学逻辑 /// 流程x -x → exp(x) → x1 → 1 / x __aicore__ inline void Compute(int32_t progress) { LocalTensorfloat xLocal inQueueX.DeQuefloat(); LocalTensorfloat yLocal outQueueY.AllocTensorfloat(); Muls(xLocal, xLocal, -1.0f, tileLength); // x -x Exp(xLocal, xLocal, tileLength); // x exp(-x) Adds(xLocal, xLocal, 1.0f, tileLength); // x 1 exp(-x) Duplicate(yLocal, 1.0f, tileLength); // 输出张量全部填充数值1 Div(yLocal, yLocal, xLocal, tileLength); // y 1 / (1exp(-x)) outQueueY.EnQue(yLocal); inQueueX.FreeTensor(xLocal); // 释放无用本地内存节省缓存空间 } /// brief CopyOut本地计算结果写回设备全局GM内存 __aicore__ inline void CopyOut(int32_t progress) { LocalTensorfloat yLocal outQueueY.DeQuefloat(); DataCopy(yGm[progress * tileLength], yLocal, tileLength); outQueueY.FreeTensor(yLocal); } private: Tpipe pipe; // 流水线内存管理对象 TQueTPosition::VECIN, QUEUE_DEPTH inQueueX; // 输入向量队列 TQueTPosition::VECOUT, QUEUE_DEPTH outQueueY; // 输出向量队列 GlobalTensorfloat xGm, yGm; // 全局内存张量绑定 uint32_t tileNum, tileLength, blockLength; // 分片控制参数 }; /// brief Kernel全局入口函数Host调用入口 __global__ __aicore__ void sigmoid_custom(GM_ADDR x, GM_ADDR y, TilingData tiling) { KERNEL_TASK_TYPE_DEFAULT(KERNEL_TYPE_AIV_ONLY); KernelSigmoid op; op.Init(x, y, tiling.totalLength, tiling.tileNum); op.Process(); } /// brief Host侧算子封装内存申请、数据拷贝、核函数调度、资源释放 vectorfloat kernel_sigmoid(vectorfloat x) { constexpr uint32_t blockDim 8; // 启动并行AICore数量 uint32_t totalLength x.size(); size_t totalByteSize totalLength * sizeof(float); // 总字节长度内存拷贝必须按字节操作 int32_t deviceId 0; aclrtStream stream nullptr; TilingData tiling {totalLength, 8}; // Host主机内存指针CPU内存、Device设备内存指针昇腾芯片显存 uint8_t* xHost reinterpret_castuint8_t*(x.data()); uint8_t* yHost nullptr; uint8_t* xDevice nullptr; uint8_t* yDevice nullptr; // 1. ACL初始化与设备、流创建 aclInit(nullptr); aclrtSetDevice(deviceId); aclrtCreateStream(stream); // 2. 分配主机锁页内存、设备大页显存 aclrtMallocHost((void**)(yHost), totalByteSize); aclrtMalloc((void**)(xDevice), totalByteSize, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc((void**)(yDevice), totalByteSize, ACL_MEM_MALLOC_HUGE_FIRST); // 3. 数据从CPU Host拷贝至昇腾Device显存 aclrtMemcpy(xDevice, xHost, totalByteSize, ACL_MEMCPY_HOST_TO_DEVICE); // 4. 异步启动自定义sigmoid核函数 sigmoid_customblockDim, nullptr, stream(xDevice, yDevice, tiling); aclrtSynchronizeStream(stream); // 阻塞等待算子全部计算完成 // 5. 计算结果从设备显存拷贝回CPU主机内存 aclrtMemcpy(yHost, yDevice, totalByteSize, ACL_MEMCPY_DEVICE_TO_HOST); vectorfloat y((float*)yHost, (float*)(yHost totalByteSize)); // 6. 所有内存、设备资源统一释放杜绝内存泄漏 aclrtFree(xDevice); aclrtFree(yDevice); aclrtFreeHost(yHost); aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return y; } /// brief 结果校验函数打印前20个数值对比算子输出与CPU标准真值 uint32_t VerifyResult(vectorfloat output, vectorfloat golden) { auto printTensor [](vectorfloat tensor, const char* name) { constexpr size_t maxPrintSize 20; cout name : ; copy(tensor.begin(), tensor.begin() min(maxPrintSize, tensor.size()), ostream_iteratorfloat(cout, )); if (tensor.size() maxPrintSize) { cout ...; } cout endl; }; printTensor(output, Output); printTensor(golden, Golden); if (equal(golden.begin(), golden.end(), output.begin())) { cout [Success] Case accuracy is verification passed. endl; return 0; } else { cout [Failed] Case accuracy is verification failed! endl; return 1; } } /// brief CPU标准sigmoid实现生成真值Golden用于精度对比 vectorfloat sigmoid(const vectorfloat x) { vectorfloat y(x.size()); for (size_t i 0; i x.size(); i) { y[i] 1.0f / (1.0f exp(-x[i])); } return y; } // 程序主入口 int32_t main(int32_t argc, char* argv[]) { constexpr uint32_t totalLength 8 * 2048; constexpr float valueX 5.5f; vectorfloat x(totalLength, valueX); // 调用昇腾自定义算子 vectorfloat output kernel_sigmoid(x); // CPU标准计算真值 vectorfloat golden sigmoid(x); // 精度校验并返回结果码 return VerifyResult(output, golden); }三、代码优化点汇总语法 BUG 修复补充类内私有函数前置声明C 编译无告警规范头文件、命名空格、换行缩进代码可读性大幅提升注释体系重构函数添加功能、入参说明注释每段核心逻辑行内注释解释分片、内存、算子计算流程统一术语GM 全局内存、Local 本地张量、Block/AICore、Host/Device逻辑可读性优化拆分大段代码分模块配置常量、分片结构体、Kernel 类、核入口、Host 调度、校验、主函数计算步骤拆分注释直观展示 sigmoid 公式拆解过程补充原文疑问完整解答1为什么 Init 中 InitBuffer 第二个参数是 BUFFER_NUMBUFFER_NUM 代表队列内部缓存的 LocalTensor 数量一般取 2 实现双缓冲流水线 一块内存搬运数据另一块同步执行计算隐藏数据拷贝耗时提升 AICore 硬件利用率单输入算子只需要输入队列、输出队列各一组 BUFFER_NUM 缓存。2Host 内存拷贝为什么用 totalByteSize字节总数内存拷贝 APIaclrtMemcpy底层按字节寻址不感知 float/int 数据类型sizeof(float)单元素 4 字节总字节 元素数量 × 单元素字节是主机与设备内存交互的标准计算方式。3为什么要用 uint8_t* reinterpret_cast 强转 float 数组uint8_t 是 1 字节无符号字符是内存拷贝通用底层指针类型 ACL 内存申请、拷贝接口底层只识别字节流不区分浮点 / 整型强制转为 uint8_t 可以逐字节管理整块内存避免类型截断、长度计算出错。4Host 内存与 Device 内存为什么必须区分Host 内存CPU 侧内存普通内存 / 锁页内存只能 CPU 读写无法直接被昇腾 AICore 访问Device 内存昇腾芯片片上全局显存 GM仅 AICore 可直接读写 两者物理隔离必须通过aclrtMemcpy完成双向数据传输不能直接互相指针访问。四、学习总结复用加减算子通用流水线架构Init分片初始化 → Process循环调度 → CopyIn/Compute/CopyOut单输入 / 双输入算子框架完全通用仅增减输入队列与计算 API掌握 Ascend C 基础数学算子串联Muls 标量乘、Exp 指数、Adds 标量加、Duplicate 填充、Div 逐元素除法理清 Host-Device 内存交互完整链路锁页内存申请、显存分配、双向拷贝、同步等待、资源释放全流程搭建算子标准验证体系CPU 真值函数 批量打印对比函数快速定位算子精度错误五、后续拓展预告前面已经完成 AddCustom、SubCustom本篇新增 SigmoidCustom下一阶段可以基于同一套模板拓展DivCustom 逐元素除法二元算子Relu/Tanh 其他单输入激活算子巩固流水线开发思维。

相关新闻

整理上万份优质PPT模版|职场求职、汇报答辩通用网盘打包下载 PTT大全 1W套PTT模版 高质量PPT 模板 合集 全套资源 商务简约 PPT 模板 毕业答辩 工作汇报 项目路演 年会演讲 课堂作业

整理上万份优质PPT模版|职场求职、汇报答辩通用网盘打包下载 PTT大全 1W套PTT模版 高质量PPT 模板 合集 全套资源 商务简约 PPT 模板 毕业答辩 工作汇报 项目路演 年会演讲 课堂作业

文件详情下载地址链接:https://pan.quark.cn/s/c1ae5b36c56d

2026/11/18 16:55:59 阅读更多 →
如何高效向论文作者获取代码与数据:从准备到沟通的完整指南

如何高效向论文作者获取代码与数据:从准备到沟通的完整指南

1. 为什么直接联系作者是获取资源的有效途径在科研工作中,我们常常会遇到一篇论文的结论非常吸引人,但想要复现或在其基础上进行深入研究时,却发现作者没有在论文中提供完整的代码,或者没有公开关键的预处理数据集。这种情况在计算…

2026/11/18 19:30:52 阅读更多 →
学嵌入式和C语言编程|学习日记Day11:各类数组作函数参数、变量作用域、生命周期、存储类别

学嵌入式和C语言编程|学习日记Day11:各类数组作函数参数、变量作用域、生命周期、存储类别

前言今天继续拓展函数传参,学习一维字符数组、二维整型数组、二维字符数组作为函数参数的规则;然后学习变量的作用域、生命周期,还有auto、static、register、extern四种存储类型。 在嵌入式开发当中,局部、全局、static 静态变量…

2026/11/4 15:43:47 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/18 13:59:04 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/18 15:33:23 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/18 17:05:28 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/18 14:33:19 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/18 17:05:28 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/18 14:13:08 阅读更多 →

日新闻

周新闻

月新闻