Skip to content

在线模型合并与转换

ymcui edited this page Jun 15, 2023 · 7 revisions

如果你熟悉Google Colab(如果有Pro以及更高订阅更佳),可以使用我们写好的Notebook在线合并和量化模型。

  • 支持所有LLaMA/Alpaca(含Plus版)模型7B、13B、33B版本的在线转换

  • 运行结束后,可按需下载合并后的全量以及量化后的权重(也可转存自己的Google Drive)

  • 具体步骤请移步Google Colab笔记本查看和运行(notebooks目录下也有,供参考):Open In Colab

Clone this wiki locally