AGI大模型(19):下载模型到本地之ModelScope(魔搭社区)
1 安装模块
魔塔社区提供了下载的模块,如下:
pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
2 模型下载
from modelscope import snapshot_download
model_dir=snapshot_download('LLM-Research/Meta-Llama-3-8B',cache_dir=r'D:\models\maidalun1020')
参数为模型的名称和下载的地址。
3 本地使用
from sentence_transformers import SentenceTransformer
model = SentenceTransformer(r'D:\models\maidalun1020')