【大语言模型,数据向量化】向量化时使用本地HuggingFaceEmbeddings失败,调用embeddings时仍会去Huggingface下载的解决方法
别人的方法都是错的
我用下面代码加载模型,后面发现必须联外网才能使用,无效的
embeddings = HuggingFaceEmbeddings(
model_name='bge15',
model_kwargs={'device': 'cuda:0'},
encode_kwargs={'normalize_embeddings': True},
local_files_only=False # 关键修复参数[6](@ref)
)
后面加上了
# 设置离线环境变量
os.environ['TRANSFORMERS_OFFLINE'] = '1'
os.environ['HF_DATASETS_OFFLINE'] = '1'
也是无效的
最后使用下面代码完成本地缓存文件的调用,成功的
embeddings = HuggingFaceEmbeddings(
model_name="BAAI/bge-small-zh-v1.5",
model_kwargs={
"local_files_only": True, # 嵌套参数传递[2](@ref)
"device": "cuda:0" # 可选设备
},
encode_kwargs={"normalize_embeddings": True}
)