端侧运行准备

  1. 下载D-Robotics_LLM_S600-{version}.tar.gz开发包。

  2. 解压开发包,将oellm_runtime文件夹拷贝到开发板可写目录,如/userdata

  3. 参考 端侧环境配置 章节正确配置端侧环境。

  4. 下载地瓜编译好的模型并存放至板端,您可通过oellm_runtime/models/resolve_model_nash-p.md获取模型下载链接。