按照教程量化模型,无法使用

Viewed 199

问题描述


我按照AI开发文档里面的步骤,去量化yolov5n.pt,但是出现了array is too big的报错,包括我之前自己训练出的best.pt,全有这样的错误。

硬件板卡


亚博K230

软件版本


CanMV K230 0.4.0 nncase2.9.0

其他信息


2 Answers

V8和V5的后处理不一样啊,给的有Yolo部署脚本,参考Yolo大作战

但是我后续用yolov8n.pt转换的虽然可以运行但是没框

一样,求解决方法

如果是没有框的话,建议先看一下整体的分辨率设置;另外不知道你是通过代码进行PT到ONNX再到KMODEL的这样的转换形式,还是直接使用勘智平台训练的,如果是前者,model_input_size需要与转换过程给出的分辨率一致,例如在转换过程中,size设置为了224,那么这里的model_input_size则也需要为224;在整体尝试前,还是建议先使用YOLO大作战中的代码测试一下设备和模型是否存在问题,再去借助AI等工具来完善,希望有帮助。

image.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.pngimage.png

你这是哪里来的脚本啊,用这个里面的https://www.kendryte.com/k230_canmv/zh/main/zh/example/ai/YOLO%E5%A4%A7%E4%BD%9C%E6%88%98.html

板子买的亚博的,脚本是亚博的例程,用他们自带的模型是可以出框的,问了亚博的技术人员,他们说模型是你们提供的

你直接用链接里的吧