← 在分诊台打开(可搜索/导航)
模型怎么部署到RK3588国产算力盒子
📱 E2 硬件→部署路由 · RK3588/RK3566/RK3568
状态:国产替代首选,价格比Jetson低一半
也这样说: 算力盒子 rk3588 rknn 瑞芯微 国产盒子 rk3566
可能根因:- RK3588是国产边缘AI芯片
- NPU算力6TOPS
- 需要转RKNN格式
解决方案
✅ 官方方案(1条)
RKNN-Toolkit2 官方仓库
瑞芯微官方工具链,PyTorch→ONNX→RKNN三步走;RK3588跑YOLOv5n 58FPS/YOLOv5s 37FPS/YOLOv8n约40FPS(NPU INT8);RK3566跑YOLOv5n 19FPS/YOLOv5s 11FPS
时效:2026-09
打开 ↗💡 排坑指南(3条)
RK3588跑DeepSeek/Qwen实测
RK3588跑DeepSeek-R1-Distill-Qwen-1.5B约15 tok/s(NPU);7B约4.14 tok/s(NPU)/2.4-2.8 tok/s(CPU)——1.5B流畅可用,7B勉强能跑
时效:2026-09
打开 ↗RK3588多NPU核并发实测
3核并发单实例25FPS→三实例并发60-75FPS(非线性增长受内存带宽限制);RKNN Lite内存:单核143MB→双核223MB→三核271MB;轻量模型可并发3-4个
时效:2026-09
打开 ↗RK3588 vs Jetson 怎么选
RK3588价格500-800元Jetson Orin要2000+,但RK3588 NPU只支持INT8/FP16不支持FP32,且算子支持不如CUDA全
时效:2026-09
打开 ↗⚠️ 避坑提醒(3条)
RKNN算子支持不全是最大坑 暂无外链
某些PyTorch算子RKNN不支持会自动回退CPU导致速度暴跌;ONNX opset必须≤17,opset 18的MatMulInteger不支持;转换前务必查算子支持列表
时效:2026-09
RKNN Toolkit与板端Runtime版本不匹配
Toolkit和Runtime版本必须严格一致,否则板端加载失败/段错误;rknn-toolkit-lite2与rknn-toolkit2别混淆,缺librknnrt.so要手动补
时效:2026-09
打开 ↗RK3588 NPU理论53FPS实测只有36FPS
Python GIL锁导致NPU"饥饿"单核只有36FPS;需零拷贝+多核并发调度,NPU核心利用率从70%升到98%才能逼近理论值。B站老韩投石实测
时效:2026-09
打开 ↗
本页是路由层入口,不存教程正文。每条入口带人工评注。
来自 问题分诊台 · Vertical Hub