自己训练的模型推理速度太慢

Viewed 77

问题描述


我自己训练了一个包裹,条码识别的模型,yolov11_n的,转化成kmodel之后kmodel文件的大小只有2.78MB,我看跟demo里面五官识别的模型体积差不多,但demo里面五官识别的模型推理耗时只有10ms不到,我这个模型的耗时得90ms,有没有大佬懂这是为啥啊。用的是linux镜像,onnx转格式时用的uint8量化

复现步骤


1.修改demo程序的模型输出后处理代码
2.跑自己的模型

硬件板卡


创乐博V3

1 Answers

请问输入的分辨率是多大的?

这个我对比过k230的理论推理速度了,输入时640*640,速度属于正常的