本文档适用于使用地瓜LLM的所有开发者,为您提供全方位的开发过程指导。
以下为各章节内容简述,您可以根据需要进行对应章节的阅读。
本章节为您提供文档各章节的内容简介。
本章节为您说明地瓜LLM工具链支持的发布包内容。
本章节为您展示地瓜端侧已支持的模型列表,及其和端侧运行示例的对应关系。
| 章节 | 简介 |
| x86环境配置 | 本章节为您介绍如何在x86配置开发环境。 |
| 端侧环境配置 | 本章节为您介绍如何在端侧配置开发环境。 |
| 章节 | 简介 |
| 端侧运行准备 | 本章节将为您说明端侧运行前的通用准备工作。 |
| LLM开发指南 | 本章节将为您提供LLM系列模型的开发流程介绍。 |
| VLM开发指南 | 本章节将为您提供VLM系列模型的开发流程介绍。 |
| VLA开发指南 | 本章节将为您提供VLA系列模型的开发流程介绍。 |
| ASR开发指南 | 本章节将为您提供ASR系列模型的开发流程介绍。 |
| 附录 | 本章节将为您提供端侧运行所需配置文件的参数说明。 |
| 章节 | 简介 |
| 概览 | 本章节通过接口调用的基本流程图示,为您介绍如何利用API接口对大模型进行加载、推理及结果处理。 |
| 接口详细说明 | 本章节为您详细介绍大模型推理的API接口,包含基本类型定义、结构体与枚举类型、回调函数类型以及主要接口函数等内容。 |
| 章节 | 简介 |
| Benchmark说明 | 本章节提供Benchmark的测试条件和统计信息说明。 |
| LLM性能Benchmark | 本章节提供LLM系列模型Benchmark各项数据。 |
| VLM性能Benchmark | 本章节提供VLM系列模型Benchmark各项数据。 |
| VLA性能Benchmark | 本章节提供VLA系列模型Benchmark各项数据。 |
| ASR性能Benchmark | 本章节提供ASR系列模型Benchmark各项数据。 |
本章节为我们提供的授权使用协议,在您使用地瓜LLM工具链前请务必仔细阅读。