k230D/k230 跑llm

Question

问题描述

想问下 rtsmart/linux k230D/k230 能否跑llm? 如果能跑最低的配置需求是?

Wy001 · Answer

你好，跑不了，只有在专门适配过算子的固件上可以跑，大一点的模型内存也不足