零主机拷贝推理：C++/CUDA 流水线将 CPU 移出热路径（165 FPS）

作者介绍一种 Zero-Host-Copy 推理架构：H.264 视频从磁盘读取到编码写回全程驻留 GPU 显存，各阶段以指针传递数据、避免深拷贝，从而减少 PCIe 主机与设备间传输和动态内存分配开销。实测 YOLOv8m（1024x1024 INT8）在 RTX 3060 Ti 上约 165 FPS，在 Jetson Orin Nano 上约 38 FPS。

AI推荐理由 文章给出具体工程数据：H.264 视频经 YOLOv8m（1024x1024 INT8）在 RTX 3060 Ti 上约 165 FPS、Jetson Orin Nano 上约 38 FPS，核心是让帧数据全程驻留 GPU 显存、以指针传递避免深拷贝，减少 PCIe H2D/D2H 传输和动态内存分配。对边缘视觉推理和 CUDA 流水线优化有实际参考价值；局限是性能数字来自作者自测，未提供完整基准代码和对比基线。