SetSingleShape【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit功能说明设置Matmul单核计算的形状singleMInsingleNInsingleKIn单位为元素。函数原型int32_t SetSingleShape(int32_t singleMIn -1, int32_t singleNIn -1, int32_t singleKIn -1)参数说明表 1参数说明参数名输入/输出描述singleMIn输入设置的singleMIn大小单位为元素默认值为-1。-1表示不设置指定的singleMIn该值由tiling函数自行计算。singleNIn输入设置的singleNIn大小单位为元素默认值为-1。-1表示不设置指定的singleNIn该值由tiling函数自行计算。singleKIn输入设置的singleKIn大小单位为元素默认值为-1。-1表示不设置指定的singleKIn该值由tiling函数自行计算。返回值说明-1表示设置失败0表示设置成功。约束说明无在MxMatmul场景中如果A与B矩阵的位置同时为GM对singleKIn没有特殊限制在这种情况下若scaleA和scaleB的K方向大小即Ceil(singleKIn, 32)为奇数用户需自行在scaleA和scaleB的K方向补0至偶数。例如当singleKIn为30时Ceil(singleKIn, 32)为1用户需要自行在scaleA和scaleB的K方向补0使K方向为偶数。对于其它A、B矩阵逻辑位置的组合情况即A与B矩阵的位置不同时为GMsingleKIn以32个元素向上对齐后的数值必须是32的偶数倍。在MxMatmul场景中当输入数据类型为fp4x2_e2m1_t、fp4x2_e1m2_t时内轴必须为偶数。调用示例auto ascendcPlatform platform_ascendc::PlatformAscendC(context-GetPlatformInfo()); matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform); tiling.SetDim(1); tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetShape(1024, 1024, 1024); // 设置Matmul单次计算的形状 tiling.SetSingleShape(1024, 1024, 1024); // 设置单核计算的形状 tiling.SetOrgShape(1024, 1024, 1024); tiling.SetBias(true); tiling.SetBufferSpace(-1, -1, -1); optiling::TCubeTiling tilingData; int ret tiling.GetTiling(tilingData);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考