当前位置: 首页 > news >正文

大模型微调工具LLaMA-Factory的安装流程

        什么是LLaMA-Factory?LLaMA-Factory,全称Large Language Model Factory,即大型语言模型工厂。它支持多种预训练模型和微调算法,提供了一套完整的工具和接口,使得用户能够轻松地对预训练的模型进行定制化的训练和调整,以适应特定的应用场景,如智能客服、语音识别、机器翻译等。

仓库地址

        githup地址: https://github.com/hiyouga/LLaMA-Factory/tree/main

需要环境

        python 3.10

        conda环境

安装步骤

  1. 下载代码:git clone https://github.com/hiyouga/LLaMA-Factory.git
  2. 进入项目目录:cd LLaMA-Factory
  3. 创建环境:conda create --name llama-factory-env python=3.10
  4. 激活环境:conda activate llama-factory-env
  5. 安装依赖:pip install -e ".[torch,metrics]" (遇到包冲突时,可使用 pip install --no-deps -e . 解决。存在超时情况,需要手动指定pip源:pip install -e . -i Simple Index)
  6. 验证:llamafactory-cli version 输出版本标识安装成功
  7. 访问:llamafactory-cli webui 自动打开访问地址(http://localhost:7860/)。

其他运行方式:

  • 指定端口号运行:GRADIO_SERVER_PORT=8080 llamafactory-cli webui
  • 后台运行:nohup env GRADIO_SERVER_PORT=8080 llamafactory-cli webui > llamafactory.log 2>&1 &

推荐一个非常好用的工具集合:在线工具集合 - 您的开发助手

http://www.dtcms.com/a/308345.html

相关文章:

  • Git Pull 时遇到 Apply 和 Abort 选项?详解它们的含义与应对策略
  • sqli-labs:Less-16关卡详细解析
  • 数字通信原理--数字通信仿真基础
  • 基于C++的protobuf协议使用(四)项目应用与总结
  • 学以致用——用Docker搭建ThinkPHP开发环境
  • freesurfer处理图谱和被试的脑模版对齐的操作
  • realm数据库RealmObject的作用
  • 电子电气架构 --- 车载48V系统开辟全新道路
  • 神奇的数据跳变
  • 【实战教程】Nginx 全方位拦截 Web 常见攻击(含目录遍历、SQL 注入等)
  • Spire.XLS for .NET 中, 将 Excel 转换为 PDF 时, 如何设置纸张大小为A4纸,并将excel内容分页放置?
  • Go语言的gRPC教程-通信模式
  • 搭建 Mock 服务,实现前端自调
  • Python与MySQL的关联操作
  • AI+金融,如何跨越大模型和场景鸿沟?
  • 006 低功耗蓝牙BLE——音频数据无法直接免驱传输分析与折中方案
  • Spark SQL 的详细介绍
  • CentOS7上使用Docker安装Nacos详细步骤
  • java一个脚手架搭建
  • 常用设计模式系列(十六)—策略模式
  • sqli-labs靶场Less23
  • Jmeter全局变量跨线程组的使用
  • 四、主辅源电路
  • F12 开发者工具 使用指北
  • vk框架或者普通函数封装的一些函数可以拿取使用【会持续更新】
  • 谷歌devtools检查文本资源是否已压缩
  • 【LeetCode 热题 100】20. 有效的括号
  • 使用 Docker 部署 Apache RocketMQ
  • 数据转换能干什么?有哪些好用的数据转换方法?
  • 剖析客户服务痛点,借助 Baklib 整合多渠道反馈