Chinese LLaMA Alpaca Versions Save

中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese LLaMA & Alpaca LLMs)

v1.1

1 year ago
  • 🚀 进一步简化模型合并步骤,从原来的三步变为两步
  • 🚀 知名LLaMA量化和部署工具llama.cpp迎来大更新,官方称加载速度可提升10-100x,建议所有用户更新最新版本。特别说明:llama.cpp旧代码生成的量化模型不能在新代码上使用,因此需要以下二选一步骤:
    • 选项一:如果你还保存了合并模型后的.pth文件,可以使用llama.cpp最新代码进行重新量化,步骤与之前相同
    • 选项二:如果你已经删除了合并模型后的.pth文件,可以使用llama.cpp最新提供的migrate-ggml-2023-03-30-pr613.py脚本将旧模型直接转换为新模型
  • 📚 添加了数据爬取脚本(利用官方gpt-3.5-turboAPI接口),用户可根据需要自行修改模板并爬取数据

v1.0

1 year ago
  • 🦙 开源了经过中文文本数据预训练的中文LLaMA大模型
  • 🦙 开源了进一步经过指令精调的中文Alpaca大模型
  • 🚀 无缝衔接知名LLaMA量化和部署工具llama.cpp
  • 🚀 快速地使用笔记本电脑(个人PC)本地部署和体验量化版大模型