地瓜官网
1.0.0
地瓜官网
1.0.0
中文

产品简介

地瓜LLM工具链(也称D-Robotics LLM)，是地瓜S600工具链产品面向大模型业务的特性化拓展， 可以在S600及衍生平台进行大语言模型的部署，为机器人业务中的大模型需求提供支撑。

发布包内容

地瓜S600 LLM发布包的结构如下所示：

. ├── arm-gnu-toolchain-13.2.rel1-x86_64-aarch64-none-linux-gnu.tar.xz ├── oellm_build │ ├── requirements.txt │ ├── hbdk4_compiler-{version}-cp310-cp310-manylinux_2_17_x86_64.whl │ ├── hbdk4_runtime_aarch64_unknown_linux_gnu_nash-{version}-py3-none-any.whl │ └── leap_llm-{version}-py{version}-none-any.whl └── oellm_runtime ├── models ├── configs ├── examples ├── include └── lib

其中：

  • arm-gnu-toolchain-13.2.rel1-x86_64-aarch64-none-linux-gnu.tar.xz为交叉编译工具包。

  • oellm_build文件夹提供x86开发机的环境依赖及量化工具。

  • oellm_runtime文件夹提供S600端侧部署SDK相关依赖及示例等内容。

    • models提供已支持模型的下载方式。

    • configs提供已支持模型的配置文件。

    • examples提供二进制文件，源码，编译脚本，demo用例等。

    • include提供编译端侧部署示例依赖的头文件。

    • lib提供端侧部署程序的依赖库。

页面目录