当前位置: 首页 > news >正文

本地部署Ollama DeepSeek-R1:8B,接入Cherry Studio

本地部署Ollama DeepSeek-R1:8B,接入Cherry Studio

本教程为本地部署ollama 环境,运行deepseek-r1:8B 模型,并完成cherry studio接入调用。

实现无网环境也可提问模型

一、ollama 环境安装

通过网盘分享的文件:OllamaSetup.exe
链接: https://pan.baidu.com/s/1aVMyzZP78bNzI2hfU2EykQ?pwd=1234 提取码: 1234

给大家提供了安装包,双击即可安装
在这里插入图片描述

二、运行deepseek-r1:8B模型

1. 启动模型,打开终端、查看命令

在这里插入图片描述
命令介绍如下:

  1. serve:用于启动Ollama服务,启动后可用于后续调用模型等操作,是使用Ollama其他功能的基础前提。例如在需要利用Ollama提供的模型服务时,首先要用该命令开启服务。
  2. create:能从Modelfile创建一个模型。Modelfile可以定义模型的各种属性和配置信息,开发者可以依据这些自定义模型。
  3. show:此命令可查看特定模型的详细信息,如模型的版本、创建时间、配置参数等内容。
  4. run:运行指定的模型,与模型进行交互。输入提示信息,获取模型生成的结果,就像使用聊天机器人那样,是使用模型完成具体任务的关键命令。
  5. pull和push:
    pull 命令可以从模型注册中心拉取模型到本地;
    push 命令则相反,可将本地创建或修改后的模型推送到注册表分享或备份。
  6. list和ps :
    list 用于列出本地所有可用的模型;
    ps 用于列出当前正在运行的模型,可以帮助用户管理和监控模型的运行状态。
  7. rm:删除指定的模型,可以释放磁盘空间,如果模型不再使用或者想要更新等情况,可使用该命令删除。

2. 拉取运行模型

  1. 拉取模型

ollama pull deepseek-r1:8b

  1. 运行模型

ollama run deepseek-r1:8b

  1. 提问测试在这里插入图片描述

三、接入cherry studio

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/93024c9b509e4867a7f6951d65311013.png
在这里插入图片描述
在这里插入图片描述

四、测试

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/0381563ab5d24eeb9344eb8b90bedbe9.png

优缺点

  1. 优点:当然本地部署方便做一些测试、以及无网环境进行提问,比如信号屏蔽后考试,可以使用本地模型进行测试。
  2. 缺点:本地部署的8b模型,提问响应速度较慢,勉强使用

大家电脑配置较高的话,可以拉取更高配置模型,如32B

当然能花钱解决的问题都不是问题,下面我们接入硅基流动,现在注册赠送14元额度,约2000万tokens, 方便我们测试

接入硅基流动

硅基流动,提供了很多优秀的满配模型,登录即送14元额度,方便我们调用
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

相关文章:

  • 力扣刷题Day 65:单词搜索(79)
  • Day40
  • 30V/3A,云岑CP8335B,完美替换EUP3484
  • 【Java】mybatis-plus乐观锁-基本使用
  • 『uniapp』添加桌面长按快捷操作 shortcuts(详细图文注释)
  • B端产品经理如何快速完成产品原型设计
  • SQL进阶之旅 Day 8:窗口函数实用技巧
  • Flask项目进管理后台之后自动跳回登录页面,后台接口报错422,权限问题
  • 极具特色的位置运算
  • 一种通用图片红色印章去除的工具设计
  • ArcGIS Pro 3.4 二次开发 - 布局
  • 最悉心的指导教程——阿里云创建ECS实例教程+Vue+Django前后端的服务器部署(通过宝塔面板)
  • 基于Qt封装数据库基本增删改查操作,支持多线程,并实现SQLite数据库单例访问
  • 系统架构中的组织驱动:康威定律在系统设计中的应用
  • 【连接器专题】SD卡座规格书审查需要审哪些方面?
  • DeepSeek 赋能文化遗产数字化修复:AI 重构千年文明密码
  • 极简以太彩光网络解决方案4.0正式发布,“彩光”重构园区网络极简之道
  • 中国城市间地理距离矩阵(2024)
  • 显卡3080和4060哪个强 两款游戏性能对比
  • AWS Transit Gateway实战:构建DMZ隔离架构,实现可控的网络互通
  • 石家庄建站程序/做网站推广一般多少钱
  • 网站开发岗位思维导图/东莞网站设计公司排名
  • 西安印象网站建设/新闻头条今日新闻60条
  • 设计网红打卡/seo系统培训哪家好
  • 哪些女性网站做女性慈善事业/长春网站优化体验
  • win10建站wordpress/自己做一个网站