【大语言模型,数据向量化】向量化时使用本地HuggingFaceEmbeddings失败,调用embeddings时仍会去Huggingface下载的解决方法
别人的方法都是错的
我用下面代码加载模型,后面发现必须联外网才能使用,无效的
embeddings = HuggingFaceEmbeddings(
model_name='bge15',
model_kwargs={'device': 'cuda:0'},
encode_kwargs={'normalize_embeddings': True},
local_files_only=False # 关键修复参数[6](@ref)
)
后面加上了
# 设置离线环境变量
os.environ['TRANSFORMERS_OFFLINE'] = '1'
os.environ['HF_DATASETS_OFFLINE'] = '1'
也是无效的
最后使用下面代码完成本地缓存文件的调用,成功的
embeddings = HuggingFaceEmbeddings(
model_name="BAAI/bge-small-zh-v1.5",
model_kwargs={
"local_files_only": True, # 嵌套参数传递[2](@ref)
"device": "cuda:0" # 可选设备
},
encode_kwargs={"normalize_embeddings": True}
)
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.dtcms.com/a/41969.html
如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!