当前位置: 首页 > wzjs >正文

梦幻建站网竞价托管公司排名

梦幻建站网,竞价托管公司排名,网站推广预算,多商户商城系统源码首先使用安装 pip install ModelScope 使用 ModelScope 下载对应的模型 modelScope download --model Qwen/QwQ-32B-GGUF qwq-32b-q4_k_m.gguf 第二步开始下载 ollama git clone https://githubfast.com/ggerganov/llama.cpp # githubfast.com 可以加速下载 切换到目录&am…

首先使用安装

pip install ModelScope

使用 ModelScope 下载对应的模型

modelScope download --model Qwen/QwQ-32B-GGUF qwq-32b-q4_k_m.gguf

第二步开始下载 ollama

git clone https://githubfast.com/ggerganov/llama.cpp # githubfast.com 可以加速下载

切换到目录,并且新增编译目录

mkdir build 
cd build 

开始设置编译,根据不同的系统架构可以选择不同的编译指令

cd build 
# CPU 编译
cmake .. -DCMAKE_BUILD_TYPE=Release# NVIDIA GPU 加速:
cmake .. -DCMAKE_BUILD_TYPE=Release -DLLAMA_CUDA=ON
# Apple Silicon 加速:
cmake .. -DCMAKE_BUILD_TYPE=Release -DLLAMA_METAL=ON

开始编译

 make -j$(nproc)

查询是否编译成功

# 查询是否编译成功,存在表示编译成功
ls -lh bin/llama-run

存在表示成功

可以运行模型

./bin/llama-run /mnt/workspace/.cache/modelscope/models/Qwen/QwQ-32B-GGUF/qwq-32b-q4_k_m.gguf

http://www.dtcms.com/wzjs/47039.html

相关文章:

  • 建德做网站搜索引擎地址
  • 大望路网站制作网络推广服务合同范本
  • 温州网站建设设计公司幽默软文经典案例300
  • 做空间的网站惠州百度seo找谁
  • 怎样给自己的店做网站企业网站建设制作
  • wap浏览器手机版下载北京百度seo公司
  • 面试简历模板武汉seo优
  • 制作公司简介西安网络推广seo0515
  • 网络服务平台标书网站seo教材
  • 印刷建设网站产品如何在网上推广
  • 广西建设厅官方网站seo服务靠谱吗
  • 网站备案 广东网络公司是做什么的
  • 黄浦网站设计济南seo外贸网站建设
  • 深圳营销型网站建设制作商图片搜索引擎
  • 天水营销型网站建设软文发布平台排名
  • 镇江 网站江北seo页面优化公司
  • 做双语网站百度权重域名
  • 做婚恋网站投入多少钱创意营销
  • 网站关键词可以添加吗百度站长收录提交入口
  • php网站建设的基本流程图老铁外链
  • 广州仿站定制模板建站餐饮店如何引流与推广
  • html课程长沙正规seo优化价格
  • 淘宝网站如何做虚拟seo网上培训多少钱
  • 网站建设行业地位淘宝大数据查询平台
  • 怎样建立公司的网站seoyoon
  • com网站是用什么做的中国今天刚刚发生的新闻
  • 建设银行龙卡信用卡在境外网站支付seo搜索优化招聘
  • 毕设敦煌壁画网站开发选题背景外国搜索引擎登录入口
  • erp系统十大软件桂林seo
  • 上海做网站 公司百度指数查询官网入口登录