深夜两点，GPU利用率卡在45%产线部署的YOLOv5推理服务突然告警——吞吐量掉了一半。Perf工具拉出来一看，前向推理只要8ms，后处理却吃了15ms。经典的性能瓶颈：Python端的NMS和Tensor解码成了拖油瓶。更头疼的是，尝试用PyTorch向量化改写后，小目标检测的召回率竟然微妙地下降了0.3%。问题就出在标准库的NMS和我们的自定义后处理之间，存在细微的数值精度与逻辑差异。是时候把后处理彻底搬到CUDA Kernel里了。一、为什么非要手写CUDA后处理？很多人觉得用PyTorch的torchvision.ops.nms就够了，或者用TRT的plugin。但在边缘设备上，内存搬运成本可能比计算还高。我们的场景里，每帧要处理超过2000个候选框，Python循环遍历这些框做IoU计算，直接吃掉10ms以上。更关键的是，业务需要自定义的框体过滤逻辑（比如长宽比约束、置信度加权等），通用库根本没法覆盖。CUDA Kernel的诱惑在于：一次内存加载，全程计算，零主机交互。但代价是——你得直面同步、访存优化和那些防不胜防的边界条件。二、第一个Kernel：解码与过滤YOLO的输出张量通常是[batch, anchors, H, W, 85]这样的布局。在CPU上解码要逐元素计算，搬到GPU上可以并行展开。__glob