LlamaFactory Demo
LLAMA-Factory 的项目目录结构,下面将对个几个比较重要的文件和文件夹做简要介绍,方便大家了解整体的框架:
- 文件夹
- assets
- 用途:通常用于存放项目的静态资源,如图像、样式表、JavaScript 文件等。
- 说明:这些资源可能用于前端展示或用户界面。
- data
- 用途:存放数据集、配置文件或其他与数据相关的文件。(微调的数据集下载后就放在这里)
- 说明:这些文件可能包括训练数据、测试数据或模型配置信息。
- docker
- 用途:包含 Docker 相关的配置文件和脚本,用于容器化部署。
- 说明:这些文件帮助自动化部署过程,确保在不同环境中的一致性。
- evaluation
- 用途:存放评估模型性能的脚本和工具。
- 说明:这些脚本用于衡量模型的准确性和其他指标。
- examples
- 用途:提供示例代码和用例,帮助用户快速上手。(微调和训练的参数配置文件在这里)
- 说明:这些示例展示了如何使用项目中的功能。
- scripts
- 用途:存放各种脚本文件,用于自动化任务或辅助功能。
- 说明:这些脚本可能包括数据预处理、模型训练等任务。
- src
- 用途:存放项目的源代码。
- 说明:这是项目的核心代码所在的地方。
- tests
- 用途:存放测试代码,用于验证项目功能的正确性。
- 说明:这些测试脚本确保代码的质量和稳定性。
0.环境
conda create -n llm python=3.11
conda activate llm
pip install vllm==0.7.2 -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install trl==0.15.1 -i https://pypi.tuna.tsinghua.edu.cn/simple
llamafactory-cli version