当前位置: 首页 > news >正文

如何将hf-mirror.com作为vllm默认的下载源? conda如何移除虚拟环境?conda 如何复制一份虚拟环境?

前言

上回咱说道,如果你没办法访问huggingface.co,则可以把modelscope作为vllm默认的下载源。
但如果你非得用你用不了的huggingface.co呢?那你可以考虑将hf-mirror.com作为vllm默认的下载源。这里,hf-mirror.com和huggingface.co的效果是一样的。


要将hf-mirror.com设为vLLM的默认下载源,可通过以下三种方式实现:

  1. 全局环境变量配置
    在终端执行:
export HF_ENDPOINT=https://hf-mirror.com

此设置对所有基于Hugging Face库的下载生效,包括vLLM。建议将此命令写入~/.bashrc~/.zshrc实现永久生效。

  1. 临时会话配置
    在运行vLLM命令前添加变量:

                

相关文章:

  • 15-YOLOV8OBB损失函数详解
  • Spring(三)容器-注入
  • 玩转大模型——Trae AI IDE国内版使用教程
  • 【我的Android进阶之旅】如何使用NanoHttpd在Android端快速部署一个HTTP服务器?
  • GPU、NPU与LPU:大语言模型(LLM)硬件加速器全面对比分析
  • 20241130 RocketMQ本机安装与SpringBoot整合
  • CSS2.1基础学习
  • STM32——DMA详解
  • 似然函数与极大似然估计
  • 表达式求值(后缀表达式)
  • 软考中级-数据库-3.2 数据结构-数组和矩阵
  • Deepgram推出Nova-3 Medical,AI语音转录助力医疗行业
  • 基于CURL命令封装的JAVA通用HTTP工具
  • Linux中shell对话框(dialog)编程
  • 从零开始学习Slam--数学概念
  • 文心4.5,大模型下半场的野心之作
  • 网络学习(四)HTTPS中,SSL的单向认证与双向认证
  • [自然语言处理]pytorch概述--什么是张量(Tensor)和基本操作
  • Sourcetrail 代码分析工具
  • 年后寒假总结及计划安排
  • 为自己网站建设/关键词分为哪三类
  • 学习前端开发的网站/淘宝推广引流方法有哪些
  • 门户型网站/网络营销公司简介
  • 如何查询自己二建的状态/上海外贸seo公司
  • 崇左市住房和城乡建设局网站/最新新闻消息
  • 删除wordpress版权信息/搜索引擎优化需要多少钱