使用nncase量化模型后,模型精度下降严重,有办法提高模型推理精度吗?

Viewed 137

用nncase将ONNX模型的float32量化为Kmodel的int16,部署到K230上后,模型精度对比不量化的版本,精度下降严重

请问有什么方法在量化后,能提高模型精度吗,或者是在不使用量化的方法下能提高我的模型推理速度

1 Answers

请问验证onnx和kmodel的输出相似度是多少?

大约在5%左右

那应该是转的模型有问题

好的,谢谢回复