modelscope环境准备--装conda、内网穿透、配置HuggingFace
1 准备anaconda
#1、安装包
wget https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Linux-x86_64.sh
#2、提高权限
chmod +x Anaconda3-2024.10-1-Linux-x86_64.sh
#3、执行安装命令
./Anaconda3-2024.10-1-Linux-x86_64.sh
#4、一直按Enter健继续
yes继续 Enter
#5、手动激活初始化
eval "$(/root/anaconda3/bin/conda shell.bash hook)"
conda init
2、内网穿透——coplor
注意：路径应该放在LLaMA-Factory路径下
cpolar的liinux版本上传到服务器（下载地址）
将帐户的authtoken添加到cpolar.yml文件
./cpolar authtoken MThiNzBhMGEtMjJiNi00ZjVlLTgwNDgtZWRhN2Y4MDkyZjY2
选择需要暴露的端口进行网络穿透，启动LLaMA-Factory-webui项目的请求端口为7860
./cpolar 7860
3 LLaMA-Factory
默认端口7860
环境配置
!!为了避免冲突，务必在虚拟环境中配置环境
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"
如果出现环境冲突，请尝试使用
pip install --no-deps -e .
解决
检测版本
llamafactory-cli version
启动WebUI
export USE_MODELSCOPE_HUB=1 && llamafactory-cli webui
理论上通过loaclhost:7860可以访问，但是我的这个地址仍然不能访问
通过下面的地址可以打开LlamaFactory的Web端
4、 配置HuggingFace并下载模型
export HF_ENDPOINT=https://hf-mirror.com
export HF_HOME=/mnt/workspace/huggingface
echo $HF_HOME
huggingface-cli download --resume-download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B
llamafactory-cli webui
进入webUI后先打开加载模型选项卡，确保模型run起来
检测是否可以正常跑
重启后conda、coplar配置全都消失🫠
😓