← 在分诊台打开（可搜索/导航）
模型量化转换失败/量化后精度为0
⚠️ E7 模型转换踩坑专题 · 全平台
状态：RT-DETR等Transformer模型量化是重灾区
也这样说： 量化失败 量化后map为0 rt-detr量化 校准失败 quantization failed
可能根因：- 校准数据分布与真实数据不匹配
- 某些层激活值范围过大
- 量化策略不适合模型结构
解决方案
🔧 变通方案（2条）
动态轴导出报错改用固定输入尺寸
dynamic_axes导出ONNX后转RKNN报错"Failed to convert dynamic_axes"；端侧部署固定input_size_list，别用动态轴
时效：2026-09
打开 ↗NPU不支持非对称量化改对称量化 暂无外链
RKNN报"asymmetric_affine_u8不支持"时切换为dynamic_fixed_point_i8对称量化方案；NPU硬件限制，不是bug
时效：2026-09
⚠️ 避坑提醒（2条）
RT-DETR INT8量化后mAP=0（真实案例）
FP16精度正常但INT8量化后mAP直接归零，用户称"折磨了我两礼拜"；根因是最后一层输出范围太大导致量化崩塌，需调整激活值分布或分层量化
时效：2026-09
打开 ↗校准数据报"Quantization failed due to abnormal values"
校准数据含异常值（NaN/Inf/超大值）导致量化失败；需清洗校准数据，排除黑屏/纯色/噪声图
时效：2026-09
打开 ↗
本页是路由层入口，不存教程正文。每条入口带人工评注。
来自 问题分诊台 · Vertical Hub