CANN ops-math Muls 算子 aclnn 接口完全指南:aclnnMuls 与 aclnnInplaceMuls 两段式调用详解
算子库人工智能CANN【免费下载链接】ops-math本项目是CANN提供的数学类基础计算算子库实现网络在NPU上加速计算。项目地址https://gitcode.com/cann/ops-math点击查看免费下载导读Muls 是 CANN ops-math 数学算子库中完成 Tensor 与 Scalar 逐元素乘法的基础算子本文以仓库文档 math/muls/docs/aclnnMulsaclnnInplaceMuls.md 为主体系统讲解其 aclnn 接口的两种调用形态普通模式aclnnMuls与就地模式aclnnInplaceMuls。读完本文你将掌握Muls 算子在各类 Ascend/Atlas 产品上的支持情况、两段式接口的完整调用流程与参数约束、参数校验失败时的错误码含义以及可直接复制运行的 C 调用示例并结合仓库源码理解其底层实现路径。产品支持情况根据文档与 math/muls/README.mdMuls 算子的 aclnn 接口支持情况如下产品是否支持Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持需要特别注意的是在Atlas 推理系列产品与Atlas 训练系列产品上aclnnMuls/aclnnInplaceMuls不支持 BFLOAT16 数据类型选用 BFLOAT16 前需确认目标设备的支持范围。功能说明与计算公式接口功能完成 tensor 与 scalar 间的乘法计算即对输入张量self的每个元素乘上标量other。计算公式$$ out_i self_i \times other $$从算子定义看见 math/muls/op_graph/muls_proto.h该算子的输入为x、标量属性为value、输出为y且输出与输入保持相同的 dtype 与 shape兼容 PyTorch 的muls算子语义。接口总览普通模式与就地模式aclnnMuls与aclnnInplaceMuls实现相同的计算功能二者的区别仅在于结果存储方式请根据实际场景选择aclnnMuls需新建一个输出张量对象out存储计算结果原输入张量保持不变。aclnnInplaceMuls无需新建输出张量对象直接在输入张量selfRef的内存中就地覆写计算结果适合需要节省内存、且原始输入不再使用的场景。从源码 math/muls/op_api/muls.cpp 可以看到两者底层的实现差异Muls通过executor-AllocTensor(self-GetViewShape(), self-GetDataType())基于输入张量的视图 shape 与数据类型新建一个输出张量mulsOut再以OP_INPUT(self)OP_OUTPUT(mulsOut)OP_ATTR(alpha)挂载 AICore 算子启动列表MulsInplace直接将self作为输出auto mulsOut self;输入输出指向同一块内存其余启动逻辑与普通模式完全一致。两种模式最终都复用同一个 AICore 计算任务ADD_TO_LAUNCHER_LIST_AICORE(Muls, ...)区别只体现在输出张量对象的分配策略上。两段式接口机制每个算子均采用两段式接口调用机制详见 docs/zh/context/two_phase_api.md必须先调用第一段接口aclnnMulsGetWorkspaceSize或aclnnInplaceMulsGetWorkspaceSize完成入参校验、输出 shape 推导、kernel tiling 等工作并返回workspaceSize算子在 NPU 上完成计算所需申请的临时内存workspace大小executor包含了算子计算流程的 op 执行器。根据workspaceSize在 Device 侧申请内存后再调用第二段接口aclnnMuls或aclnnInplaceMuls真正执行计算。注意第二段接口不能重复调用。正确的调用次序必须是GetWorkspaceSize → 执行接口且每个第一段接口得到的executor只能被消费一次。四个接口的函数原型如下aclnnStatus aclnnMulsGetWorkspaceSize( const aclTensor *self, const aclScalar *other, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)aclnnStatus aclnnMuls( void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)aclnnStatus aclnnInplaceMulsGetWorkspaceSize( aclTensor *selfRef, const aclScalar *other, uint64_t *workspaceSize, aclOpExecutor **executor)aclnnStatus aclnnInplaceMuls( void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)可以看到普通模式需要传入输入self、标量other与输出out三个参数而就地模式只需传入selfRef与other两个参数输出即输入本身。aclnnMulsGetWorkspaceSize 接口详解参数说明参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfaclTensor*输入公式中的输入self与 other 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND不大于 8√otheraclScalar*输入公式中的输入other与 self 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16---outaclTensor*输出公式中的输出out数据类型需是 self 与 other 推导之后可转换的数据类型参见互转换关系shape 与 self 的 shape 相等FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND与 self 相同√workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含了算子计算流程-----补充说明表格中非连续 Tensor √表示接口支持 stride 非连续的输入输出张量相关背景可参考 docs/zh/context/non_contiguous_tensor.md数据格式统一为 ND可参见 docs/zh/context/data_format.md。Atlas 推理系列产品、Atlas 训练系列产品不支持 BFLOAT16 数据类型。从算子底层定义看math/muls/op_host/muls_def.cppkernel 实际支持的 dtype 集合为 BF16、FLOAT16、FLOAT、INT16、INT32、INT64、COMPLEX32、COMPLEX64aclnn 接口层更宽的 dtype 列表如 DOUBLE、INT8、UINT8、BOOL、COMPLEX128 等会在接口内部通过数据类型推导与转换完成衔接。返回值与错误码返回aclnnStatus状态码具体参见 aclnn返回码。第一段接口完成入参校验出现以下场景时报错返回值错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 self、other、out 是空指针时ACLNN_ERR_PARAM_INVALID161002self 和 out 的数据类型不在支持的范围内时ACLNN_ERR_PARAM_INVALID161002self 和 other 无法做数据类型推导ACLNN_ERR_PARAM_INVALID161002推导出的数据类型无法转换为指定输出 out 的类型ACLNN_ERR_PARAM_INVALID161002self 与 out 的 shape 不一致ACLNN_ERR_PARAM_INVALID161002self 和 out 的维度大于 8aclnnMuls 接口详解参数说明参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入在 Device 侧申请的 workspace 大小由第一段接口 aclnnMulsGetWorkspaceSize 获取executor输入op 执行器包含了算子计算流程stream输入指定执行任务的 Stream返回值返回aclnnStatus状态码具体参见 aclnn返回码。aclnnInplaceMulsGetWorkspaceSize 接口详解参数说明参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfRefaclTensor*输入公式中的输入self和输出out与 other 满足数据类型推导规则FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16ND不大于 8√otheraclScalar*输入公式中的输入other与 selfRef 满足数据类型推导关系FLOAT、FLOAT16、DOUBLE、INT32、INT64、INT16、INT8、UINT8、BOOL、COMPLEX128、COMPLEX64、BFLOAT16---workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含了算子计算流程-----与普通模式最大的差异在于selfRef一个参数同时承担输入与输出两个角色因此接口不再需要out参数其数据类型推导要求也直接体现在selfRef与other之间。返回值与错误码返回aclnnStatus状态码具体参见 aclnn返回码。第一段接口完成入参校验出现以下场景时报错返回值错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 selfRef、other 是空指针时ACLNN_ERR_PARAM_INVALID161002selfRef 的数据类型不在支持的范围内时ACLNN_ERR_PARAM_INVALID161002selfRef 和 other 无法做数据类型推导ACLNN_ERR_PARAM_INVALID161002selfRef 的维度大于 8aclnnInplaceMuls 接口详解参数说明参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入在 Device 侧申请的 workspace 大小由第一段接口 aclnnInplaceMulsGetWorkspaceSize 获取executor输入op 执行器包含了算子计算流程stream输入指定执行任务的 Stream返回值返回aclnnStatus状态码具体参见 aclnn返回码。约束说明确定性计算aclnnMuls 与 aclnnInplaceMuls 默认采用确定性实现确定性计算的含义可参考 docs/zh/context/determinism_compute.md。精度风险INT32/INT64 类型计算存在精度损失需谨慎使用。从算子定义注释math/muls/op_graph/muls_proto.h可以印证FLOAT32 类型参数无精度损失当 INT32/INT64 参数值超过 2^24 时会发生精度损失此时建议改用 Mul 算子。调用示例仓库提供了可直接编译运行的完整示例分别位于 math/muls/examples/test_aclnn_muls.cpp 与 math/muls/examples/test_aclnn_inplace_muls.cpp与文档中的示例代码一致两者核心流程完全相同仅输入输出构造方式不同。aclnnMuls 示例代码#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_mul.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shapeSize 1; for (auto i : shape) { shapeSize * i; } return shapeSize; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); aclFinalize(); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); aclrtResetDevice(deviceId); aclFinalize(); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1.固定写法device/stream初始化参考acl API手册 // 根据自己的实际device填写deviceId int32_t deviceId 0; aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2.构造输入与输出需要根据API的接口自定义构造 std::vectorint64_t selfShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfDeviceAddr nullptr; void* outDeviceAddr nullptr; aclTensor* self nullptr; aclScalar* other nullptr; aclTensor* out nullptr; std::vectorfloat selfHostData {0, 1, 2, 3, 4, 5, 6, 7}; float otherValue 1.2f; std::vectorfloat outHostData(8, 0); // 创建self aclTensor ret CreateAclTensor(selfHostData, selfShape, selfDeviceAddr, aclDataType::ACL_FLOAT, self); CHECK_RET(ret ACL_SUCCESS, return ret); // 创建other aclScalar other aclCreateScalar(otherValue, aclDataType::ACL_FLOAT); CHECK_RET(other ! nullptr, return ret); // 创建out aclTensor ret CreateAclTensor(outHostData, outShape, outDeviceAddr, aclDataType::ACL_FLOAT, out); CHECK_RET(ret ACL_SUCCESS, return ret); // 3.调用CANN算子库API需要修改为具体的API名称 uint64_t workspaceSize 0; aclOpExecutor* executor; // 调用aclnnMuls第一段接口 ret aclnnMulsGetWorkspaceSize(self, other, out, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnMulsGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); // 根据第一段接口计算出的workspaceSize申请device内存 void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret); } // 调用aclnnMuls第二段接口 ret aclnnMuls(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnMuls failed. ERROR: %d\n, ret); return ret); // 4.固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5.获取输出的值将device侧内存上的结果拷贝至host侧需要根据具体API的接口定义修改 auto size GetShapeSize(outShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), outDeviceAddr, size * sizeof(resultData[0]), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6.释放aclTensor和aclScalar需要根据具体API的接口定义修改 aclDestroyTensor(self); aclDestroyScalar(other); aclDestroyTensor(out); // 7.释放device资源 aclrtFree(selfDeviceAddr); aclrtFree(outDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }上述示例以{0, 1, 2, 3, 4, 5, 6, 7}的 FLOAT 张量与标量1.2f相乘预期输出为{0, 1.2, 2.4, 3.6, 4.8, 6.0, 7.2, 8.4}由于浮点表示打印结果可能存在微小尾差。整个流程可以归纳为七个固定步骤初始化aclInit→aclrtSetDevice→aclrtCreateStream构造输入输出通过aclrtMallocaclrtMemcpy准备 Device 侧数据再用aclCreateTensor/aclCreateScalar创建 aclTensor 与 aclScalar两段式调用先aclnnMulsGetWorkspaceSize获取 workspaceSize 与 executor按需aclrtMalloc申请 workspace再aclnnMuls执行同步等待aclrtSynchronizeStream等待任务完成回拷结果aclrtMemcpy将 Device 侧输出拷贝至 Host 侧并打印释放张量aclDestroyTensor/aclDestroyScalar释放资源aclrtFree、aclrtDestroyStream、aclrtResetDevice、aclFinalize。aclnnInplaceMuls 示例代码就地模式与普通模式代码几乎一致差异集中在第 2、3、5、6 步#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_mul.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shapeSize 1; for (auto i : shape) { shapeSize * i; } return shapeSize; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); aclFinalize(); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); aclrtResetDevice(deviceId); aclFinalize(); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1.固定写法device/stream初始化参考acl API手册 // 根据自己的实际device填写deviceId int32_t deviceId 0; aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2.构造输入需要根据API的接口自定义构造 std::vectorint64_t selfRefShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfRefDeviceAddr nullptr; aclTensor* selfRef nullptr; aclScalar* other nullptr; std::vectorfloat selfRefHostData {0, 1, 2, 3, 4, 5, 6, 7}; float otherValue 1.2f; // 创建selfRef aclTensor ret CreateAclTensor(selfRefHostData, selfRefShape, selfRefDeviceAddr, aclDataType::ACL_FLOAT, selfRef); CHECK_RET(ret ACL_SUCCESS, return ret); // 创建other aclScalar other aclCreateScalar(otherValue, aclDataType::ACL_FLOAT); CHECK_RET(other ! nullptr, return ret); // 3.调用CANN算子库API需要修改为具体的API名称 uint64_t workspaceSize 0; aclOpExecutor* executor; // 调用aclnnInplaceMuls第一段接口 ret aclnnInplaceMulsGetWorkspaceSize(selfRef, other, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnInplaceMulsGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); // 根据第一段接口计算出的workspaceSize申请device内存 void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret); } // 调用aclnnInplaceMuls第二段接口 ret aclnnInplaceMuls(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnInplaceMuls failed. ERROR: %d\n, ret); return ret); // 4.固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5.获取输出的值将device侧内存上的结果拷贝至host侧需要根据具体API的接口定义修改 auto size GetShapeSize(selfRefShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), selfRefDeviceAddr, size * sizeof(resultData[0]), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6.释放aclTensor和aclScalar需要根据具体API的接口定义修改 aclDestroyTensor(selfRef); aclDestroyScalar(other); // 7.释放device资源需要根据具体API的接口定义修改 aclrtFree(selfRefDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }就地模式的关键差异点第 2 步只创建selfRef张量与other标量不创建独立的输出张量第 5 步直接从selfRefDeviceAddr回拷结果结果已覆写进原输入内存第 6、7 步也无需释放独立的输出张量与输出内存。源码视角从 aclnn 接口到 AICore 计算除了接口文档Muls 算子在仓库中的实现链路完整可查可以帮助理解接口背后发生了什么算子 IR 定义math/muls/op_graph/muls_proto.h通过REG_OP(Muls)声明输入x、输出y与必选浮点属性value支持 1D~8D 输入dtype 覆盖 BF16/F16/F32/INT16/INT32/INT64/COMPLEX32/COMPLEX64输出与输入同 dtype 同 shape算子宿主定义math/muls/op_host/muls_def.cpp注册Muls的 OpDef配置了动态编译、动态 shape、动态 rank 支持以及PrecisionReduceFlag(true)精度优化标志并为 ascend950、ascend350 平台注册 AICore 配置opFile.value指向muls_aptshape 推导math/muls/op_host/muls_infershape.cpp复用Ops::Base::InferShape4Elewise逐元素算子的通用推导逻辑保证输出 shape 与输入一致aclnn 层实现math/muls/op_api/muls.cppMuls与MulsInplace分别通过AllocTensor新建输出或复用输入内存再经ADD_TO_LAUNCHER_LIST_AICORE将输入、输出与属性alpha组装进 AICore 启动列表最终由统一的执行器调度到 NPU 上完成逐元素乘标量计算kernel 与 tilingmath/muls/op_kernel、math/muls/op_host/arch35/muls_tiling_arch35.cpp负责在 AICore 侧的实际计算与多核切分策略arch35对应 Ascend 950/A3 等新一代平台架构。测试与验证仓库为 Muls 算子提供了配套的单元测试与示例可作为接口行为与实现的验证依据aclnn 接口示例math/muls/examples/test_aclnn_muls.cpp、math/muls/examples/test_aclnn_inplace_muls.cppop_api 单元测试math/muls/tests/ut/op_api/test_aclnn_muls.cppinfershape 单元测试math/muls/tests/ut/op_host/test_muls_infershape.cpptiling 单元测试math/muls/tests/ut/op_host/arch35/test_muls_tiling_arch35.cppST 用例数据math/muls/tests/st/arch35/ttk_kernel_muls_st.csv以及测试基准脚本 math/muls/tests/assets/golden.py。总结aclnnMuls与aclnnInplaceMuls是 CANN ops-math 中 Tensor×Scalar 乘法的标准 aclnn 入口普通模式输出独立张量、原输入保持不变适合结果需要复用、输入仍需保留的场景就地模式直接在输入内存覆写结果、省去输出张量的分配与搬运适合内存敏感或输入生命周期即将结束的场景。二者共享同一套两段式调用范式、数据类型推导规则与错误码体系且默认确定性实现。开发时只需对照本文的四个接口原型、参数表与两个可直接运行的示例即可快速在支持的 Ascend/Atlas 产品上完成接入。赞分享算子库人工智能CANN【免费下载链接】ops-math本项目是CANN提供的数学类基础计算算子库实现网络在NPU上加速计算。项目地址https://gitcode.com/cann/ops-math点击查看免费下载相关推荐CANN ops-math 算子调用指南aclnnReciprocal 与 aclnnInplaceReciprocal 两段式接口详解CANN ops math 算子调用指南aclnnReciprocal 与 aclnnInplaceReciprocal 两段式接口详解 本文以 CANN o算子库人工智能CANNCANN ops-math Addcmul 算子全解析两段式 aclnn 接口原理与 NPU 实战调用CANN ops math Addcmul 算子全解析两段式 aclnn 接口原理与 NPU 实战调用 导读 Addcmul 是 CANN ops math算子库人工智能CANNCANN ops-math 算子 API 指南aclnnNeTensor 与 aclnnInplaceNeTensor 两段式接口调用详解CANN ops math 算子 API 指南aclnnNeTensor 与 aclnnInplaceNeTensor 两段式接口调用详解 本指南基于 CAN算子库人工智能CANN上一篇解决CKEditor5 Cloud Services令牌刷新机制失效问题从原理到实战修复下一篇ru-bart-large-openmind词汇表优化原理从250k到25k的精简策略完整指南创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

ent迁移避坑指南:Atlas迁移引擎5大常见陷阱与解决方案

ent迁移避坑指南:Atlas迁移引擎5大常见陷阱与解决方案

ent迁移避坑指南:Atlas迁移引擎5大常见陷阱与解决方案 【免费下载链接】ent An entity framework for Go 项目地址: https://gitcode.com/gh_mirrors/en/ent 使用 Ent 做数据库管理时,很多人从自动迁移(Auto Migration)切换…

2026/9/23 14:32:39 阅读更多 →
Voyager 用户消息 LaTeX 渲染:在 Gemini 聊天中自动排版数学公式的完整指南

Voyager 用户消息 LaTeX 渲染:在 Gemini 聊天中自动排版数学公式的完整指南

AI 应用前端 【免费下载链接】voyager Enhancement suite for Gemini, AI Studio, Claude & ChatGPT — plus a prompt manager for any websites, DeepSeek Harness included. / 面向 Gemini、AI Studio、Claude 与 ChatGPT 的增强套件;其中的提示词管理器可用…

2026/9/24 2:48:42 阅读更多 →
Plotly.py 连续误差带(Continuous Error Bands)完全指南:用 Scatter 填充实现区间不确定性可视化

Plotly.py 连续误差带(Continuous Error Bands)完全指南:用 Scatter 填充实现区间不确定性可视化

数据可视化数据分析 【免费下载链接】plotly.py The interactive graphing library for Python :sparkles: 项目地址: https://gitcode.com/gh_mirrors/pl/plotly.py 点击查看 免费下载 连续误差带(Continuous Error Bands)是以主迹线周围的…

2026/9/23 22:47:55 阅读更多 →

最新新闻

医疗数据集微调大模型:从数据清洗到LLaMA-Factory实战指南

医疗数据集微调大模型:从数据清洗到LLaMA-Factory实战指南

简介:llm-medical-data是一套面向大模型微调训练的医疗数据集,主要服务需要真实医疗语料进行模型优化的数据科学家、医学研究人员以及处于入门阶段的个人学习者。资源围绕临床诊疗场景整理了患者基本信息、病史、检查结果、治疗过程与药物反应等多维数据…

2026/9/25 5:43:33 阅读更多 →
Agent Substrate 中的 go-jose Safe JSON:为 JOSE 安全消息定制的严格 JSON 解析器

Agent Substrate 中的 go-jose Safe JSON:为 JOSE 安全消息定制的严格 JSON 解析器

人工智能AI AgentAgent 沙箱云原生容器运行时零信任 【免费下载链接】substrate Agent Substrate: the core system 项目地址: https://gitcode.com/GitHub_Trending/substrate7/substrate 点击查看 免费下载 本文聚焦 Agent Substrate 仓库中随 go-jose v4 一并 v…

2026/9/25 5:43:33 阅读更多 →
QKeyMapper连发与锁定功能详解:轻松实现无限压枪与持续开火

QKeyMapper连发与锁定功能详解:轻松实现无限压枪与持续开火

QKeyMapper连发与锁定功能详解:轻松实现无限压枪与持续开火 【免费下载链接】QKeyMapper [按键映射工具] QKeyMapper,Qt开发Win10&Win11可用,不修改注册表、不需重新启动系统,可立即生效和停止。支持游戏手柄映射到键鼠&#…

2026/9/25 5:43:33 阅读更多 →
Atlas 300V 24G NPU加速卡部署YOLO全流程实战:从模型转换到性能优化

Atlas 300V 24G NPU加速卡部署YOLO全流程实战:从模型转换到性能优化

做目标检测部署的人,最近应该没少听到 Atlas 这个名字。尤其你是做视频分析、边缘盒子或者工业质检这类项目的,想把 YOLO 模型跑起来但又不想一直受制于 GPU 的功耗和成本,Atlas 系列是绕不开的一个选项。我收到最多的两个问题就是&#xff1…

2026/9/25 5:43:33 阅读更多 →
Atlas 300V Pro 24G推理卡YOLO部署实战:从模型转换到性能调优

Atlas 300V Pro 24G推理卡YOLO部署实战:从模型转换到性能调优

1. 先搞清楚:Atlas 300V 24G到底是什么卡最近总有人问我,Atlas 300V 24G是不是运算加速卡,还有人在搜“atlas部署yolo”能不能行。我用一句话先给结论:Atlas 300V Pro(24GB显存版本)就是华为专门做AI推理的…

2026/9/25 5:43:33 阅读更多 →
openapi-typescript Node.js API 实战指南:程序化类型生成、transform 钩子扩展与源码管线解析

openapi-typescript Node.js API 实战指南:程序化类型生成、transform 钩子扩展与源码管线解析

开发工具代码生成后端 【免费下载链接】openapi-typescript Generate TypeScript types from OpenAPI 3 specs 项目地址: https://gitcode.com/gh_mirrors/op/openapi-typescript 点击查看 免费下载 本文基于 openapi-typescript 仓库中的 Node.js API 文档&#x…

2026/9/25 5:42:32 阅读更多 →

日新闻

AI元人文:从工具使用到思维重构的深度探索

AI元人文:从工具使用到思维重构的深度探索

最近半年我一直在琢磨一件事:AI元人文到底是什么?说白了,就是“用元视角重新审视人与AI的关系”,也在“探索AI如何反向逼着我们发现自己的思考边界”。标题里的“元探索”,在我看就是一层套一层的追问——当你用AI解决…

2026/9/25 0:00:41 阅读更多 →
Python+CNN车牌识别实战:从数据预处理到模型训练与部署

Python+CNN车牌识别实战:从数据预处理到模型训练与部署

简介:基于Python与卷积神经网络的车牌识别项目,面向计算机视觉初学者及智能交通开发者,目标是帮助用户掌握从数据预处理、模型构建到实际部署的完整流程。压缩包共25个文件,包含jpg/png图像样本、py训练脚本、md说明文档、dat数据…

2026/9/25 0:00:41 阅读更多 →
Vim基础操作全攻略:保存退出、模式切换与高频命令实战

Vim基础操作全攻略:保存退出、模式切换与高频命令实战

1. 项目概述1.1 核心需求解析今天聊聊Vim。写这个题目的原因是:几乎每个后端开发者、运维人员、数据工程师某天都会遇到一个场景——深夜加班,服务器登录界面只有黑底白字,编辑器只有vi/vim,你必须在五分钟内完成一次配置修改并保…

2026/9/25 0:00:41 阅读更多 →

周新闻

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

直接铺开项目本身吧。这几个月我一直在折腾一件事:用Flutter给OpenHarmony做一款游戏集合类的App,说白了就是把若干小游戏塞进一个壳里,用统一入口分发。这个方向本身不算新鲜,真正让我花了不少心思的,是首页那堆游戏卡…

2026/9/24 14:34:13 阅读更多 →
Word表格编号全攻略:从列表编号到题注交叉引用

Word表格编号全攻略:从列表编号到题注交叉引用

写Word文档,最让人头疼的往往是那些“看起来不起眼”的小问题。比如表格编号这事:今天在表后面多加了两个空白行,明天给客户交稿前发现整个章节的编号全部错位,光是挨个改序号就能耗掉大半个下午。我前阵子帮人整理一份上百页的技…

2026/9/24 9:10:42 阅读更多 →
从第一个站到第二个站:独立开发者的静态网站选型与落地实践

从第一个站到第二个站:独立开发者的静态网站选型与落地实践

1. 项目概述1.1 核心需求解析做独立开发者这几年,说实话,第一个网站上线的那天晚上我兴奋得没睡着。但等它跑了半年,流量惨淡、功能臃肿、代码自己都懒得看第二遍之后,我才慢慢琢磨明白一个道理:第一个网站是练手&…

2026/9/24 14:33:56 阅读更多 →

月新闻

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能分类:[AI/大模型]细分主题:AI 增强型 CI/CD 流水线自动化与 GitOps 实践:Agent 工作流、工具调用与任务拆解:从原型到生产的验收清单很多团队在尝试用大…

2026/9/24 12:50:34 阅读更多 →
容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场分类:[工程技术]细分主题:Kubernetes 生产环境运维与排障实战:可复制的项目复盘模板与决策记录大部分团队的事故复盘报告,最后都变成了躺在 Confluence 或钉…

2026/9/24 14:33:48 阅读更多 →
容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步分类:[工程技术]细分主题:Docker 容器化技术与镜像安全管理:核心链路的逐步实现与关键代码取舍面对一个积累了五六年历史包袱的单体架构应用(包含 Web 接口、后台…

2026/9/24 12:49:17 阅读更多 →