系统同步能力概述【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit在编程中同步是指协调多个执行单元如线程、进程等对共享资源的访问顺序和时机来确保程序的正确性。如果没有同步来严格控制执行顺序则会出现结果不一致、行为不可预测等多种问题。AI Core的同步总共分成3类核内同步、核间同步、任务间同步。各类同步对应的接口如下。表1核内同步接口接口名称功能简述同步类别SetFlag/WaitFlag(ISASI).md)多流水同步同一核内不同流水之间的同步指令。SetFlag负责发送通知WaitFlag负责阻塞直到SetFlag发送通知。硬件同步PipeBarrier.md)单流水同步同一核内相同流水之间的同步指令不支持PIPE_S单流水同步。硬件同步DataSyncBarrier.md)阻塞后续的指令执行直到所有之前的内存访问指令需要等待的内存位置可通过参数控制执行结束。硬件同步Lock/Unlock/Mutex(ISASI).md)用于核内异步流水指令之间的同步处理其功能类似于传统CPU中的锁机制。通过锁定指定流水再释放流水来完成流水间的同步依赖。硬件同步表2核间同步接口接口名称功能简述同步类别CrossCoreSetFlag.md)/CrossCoreWaitFlag.md)多个AIC或AIV之间的同步控制。CrossCoreSetFlag负责发送通知CrossCoreWaitFlag负责阻塞直到CrossCoreSetFlag发送通知。支持以下同步场景•同步等待全部AIC或者同步等待全部AIV执行结束。•单个AI Core内全部AIV之间的同步。•单个AI Core内AIC与全部AIV之间的同步。硬件同步IBSet/IBWait被等待核中调用IBSet通过将值1写入全局内存中某块地址来通知等待核而等待核中调用IBWait持续读取全局内存中相应地址块的值直到其值变为1。软件同步SyncAll用于多个核之间的同步控制支持以下同步场景•纯Vector算子的全核同步可参考CrossCoreSetFlag的模式0。•融合算子的全核同步一次性实现三个核间同步能力参考CrossCoreSetFlag的关键特性说明首先完成单个AI Core内AIC与全部AIV之间的同步AIC等AIV接着完成多个AI Core间所有AIC的同步最后完成单个AI Core内所有AIV与AIC同步AIV等AIC。硬件同步SyncAll仅支持纯Vector算子的多核参与同步的核数可通过入参指定同步。每一个AIV都向全局内存对应位置写入信号值1接着每一个AIV都持续轮询全局内存中所有AIV对应的信号值直到所有AIV核对应的信号值都变为1。软件同步InitDetermineComputeWorkspace/NotifyNextBlock/WaitPreBlock• InitDetermineComputeWorkspace、NotifyNextBlock和WaitPreBlock三个接口必须组合使用能够确保多个AIV核严格按照blockIdx的升序执行适用于要求确定性计算的场景。• InitDetermineComputeWorkspace初始化GM共享内存的值完成初始化后才可以调用NotifyNextBlock和WaitPreBlock。• NotifyNextBlock通过写全局内存来通知其他核当前核已执行完成其他核可以继续往下执行WaitPreBlock通过读取全局内存判断当前核是否可以继续往下执行。软件同步表3任务间同步接口接口名称功能简述同步类别SetNextTaskStart在SuperKernel的子Kernel中调用调用后的指令可以和后续其他的子Kernel实现并行提升整体性能。硬件同步WaitPreTaskEnd在SuperKernel的子Kernel中调用调用前的指令可以和前序其他的子Kernel实现并行提升整体性能。硬件同步【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考