模型收敛只是第一步,真正的战场在推理落地。

流程

  1. 格式转换:PyTorch → ONNX → TensorRT / OpenVINO / TFLite。
  2. 精度校准:量化时用代表性数据定 scale。
  3. 性能评估:看 FPS 与延迟,而不是只看 FLOPs。

工地场景的特殊性

工地算力受限、环境复杂多变,这点在我的 YOLOv8n+P2 项目 里体现得很明显——需要知识集/计算机视觉/模型轻量化。

工具备忘

工具适用平台
TensorRTNVIDIA GPU/Jetson
OpenVINOIntel CPU/NPU
TFLiteAndroid / MCU
RKNNRK 系列 SoC