文档脉络

本文档适用于使用地瓜LLM的所有开发者,为您提供全方位的开发过程指导。

以下为各章节内容简述,您可以根据需要进行对应章节的阅读。

  1. 文档脉络

本章节为您提供文档各章节的内容简介。

  1. 产品简介

本章节为您说明地瓜LLM工具链支持的发布包内容。

  1. 模型列表

本章节为您展示地瓜端侧已支持的模型列表,及其和端侧运行示例的对应关系。

  1. 环境配置
章节简介
x86环境配置本章节为您介绍如何在x86配置开发环境。
端侧环境配置本章节为您介绍如何在端侧配置开发环境。
  1. 使用说明
章节简介
端侧运行准备本章节将为您说明端侧运行前的通用准备工作。
LLM开发指南本章节将为您提供LLM系列模型的开发流程介绍。
VLM开发指南本章节将为您提供VLM系列模型的开发流程介绍。
VLA开发指南本章节将为您提供VLA系列模型的开发流程介绍。
ASR开发指南本章节将为您提供ASR系列模型的开发流程介绍。
附录本章节将为您提供端侧运行所需配置文件的参数说明。
  1. API介绍
章节简介
概览本章节通过接口调用的基本流程图示,为您介绍如何利用API接口对大模型进行加载、推理及结果处理。
接口详细说明本章节为您详细介绍大模型推理的API接口,包含基本类型定义、结构体与枚举类型、回调函数类型以及主要接口函数等内容。
  1. 模型性能Benchmark
章节简介
Benchmark说明本章节提供Benchmark的测试条件和统计信息说明。
LLM性能Benchmark本章节提供LLM系列模型Benchmark各项数据。
VLM性能Benchmark本章节提供VLM系列模型Benchmark各项数据。
VLA性能Benchmark本章节提供VLA系列模型Benchmark各项数据。
ASR性能Benchmark本章节提供ASR系列模型Benchmark各项数据。
  1. 地瓜LLM工具链授权使用协议

本章节为我们提供的授权使用协议,在您使用地瓜LLM工具链前请务必仔细阅读。