← 在分诊台打开（可搜索/导航）

YOLO letterbox预处理和NMS后处理怎么不踩坑

⚠️ E7 模型转换踩坑专题 · 全平台
状态：90%的"检测框不准"是letterbox或NMS的问题
也这样说： letterbox 预处理 nms 后处理 坐标越界 nms优化
可能根因：

解决方案

🔧 变通方案（1条）

YOLOv8导出时设nms=True让TensorRT内部处理
导出时设nms=True让TensorRT内部处理所有后处理，比手动实现NMS层更干净；YOLO11导出需修改exporter.py的output_names避免多输出问题
时效：2026-09
打开 ↗

⚠️ 避坑提醒（3条）

直接resize压扁图像导致召回和定位同时变差
直接拉伸会变形（人体被压扁），训练分布是"比例正确的人"推理变成"压扁的人"导致mAP暴跌；必须用Letterbox：等比缩放→补灰边(114)→记录scale/pad_x/pad_y
时效：2026-09
打开 ↗
NMS后处理坐标反解越界
模型预测的缩放图坐标可能超出范围(如x1=-10, y2=650)，反解到原图后坐标越界；必须加边界校验Math.max/Math.min限制在原始图像范围内
时效：2026-09
打开 ↗
NMS参数与训练时不一致导致漏检/重复
端到端模型自带NMS与Torch版实现常有差异；Score Threshold推荐0.001与训练对齐，IOU Threshold默认0.45别乱改；RKNN导出的后处理输出在640x640空间，画回原图必须反算缩放比和填充
时效：2026-09
打开 ↗

本页是路由层入口，不存教程正文。每条入口带人工评注。
来自 问题分诊台 · Vertical Hub