大模型微调工具LLaMA-Factory的安装流程
什么是LLaMA-Factory?LLaMA-Factory,全称Large Language Model Factory,即大型语言模型工厂。它支持多种预训练模型和微调算法,提供了一套完整的工具和接口,使得用户能够轻松地对预训练的模型进行定制化的训练和调整,以适应特定的应用场景,如智能客服、语音识别、机器翻译等。
仓库地址
githup地址: https://github.com/hiyouga/LLaMA-Factory/tree/main
需要环境
python 3.10
conda环境
安装步骤
- 下载代码:git clone https://github.com/hiyouga/LLaMA-Factory.git
- 进入项目目录:cd LLaMA-Factory
- 创建环境:conda create --name llama-factory-env python=3.10
- 激活环境:conda activate llama-factory-env
- 安装依赖:pip install -e ".[torch,metrics]" (遇到包冲突时,可使用 pip install --no-deps -e . 解决。存在超时情况,需要手动指定pip源:pip install -e . -i Simple Index)
- 验证:llamafactory-cli version 输出版本标识安装成功
- 访问:llamafactory-cli webui 自动打开访问地址(http://localhost:7860/)。
其他运行方式:
- 指定端口号运行:GRADIO_SERVER_PORT=8080 llamafactory-cli webui
- 后台运行:nohup env GRADIO_SERVER_PORT=8080 llamafactory-cli webui > llamafactory.log 2>&1 &
推荐一个非常好用的工具集合:在线工具集合 - 您的开发助手