作业

环境准备

Huggingface&Lmdeploy介绍

模型下载

模型的运行

普通方式运行结果

使用Lmdeploy运行模型

Lmdeploy方式运行结果

Lmdeploy对模型进行量化

LMDeploy服务

Python代码集成lmdeploy