当前位置: 首页 > news >正文

本地部署DeepSeek R1大模型

一、安装软件

1.1 安装Ollama

你可以访问Ollama的官方网站https://ollama.com/download,选择适合你操作系统的安装包进行下载。老周这里是Mac系统,所以选择下载macOS系统。在这里插入图片描述

1.2 安装cherry studio

前往官网https://cherry-ai.com/download下载对应操作系统的安装包

在这里插入图片描述
1.3 下载deepseek R1本地模型

直接前往Ollama官网:https://ollama.com/library/deepseek-r1

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型,

查下自己MAC电脑的显存:

system_profiler SPDisplaysDataType | grep "VRAM"

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型。

老周这里让 DeepSeek 帮我推荐使用哪个参数的模型。

在这里插入图片描述
根据推荐老周这里选择了8b参数的模型:

ollama run deepseek-r1:8b

打开终端(Mac OS)或运行(Windows,可以用win键+r快捷键弹出),粘贴刚刚复制的代码(ollama run deepseek-r1:8b)

在这里插入图片描述
接下来可能有点慢,测你家网速的时候到了。

在这里插入图片描述

下载完成后,你已经可以直接使用Deepseek R1这个大模型了。不过,为了让大家有更好的体验,我特别推荐使用Cherry Studio这个工具。它不仅能调用你本地下载的模型,还可以连接各种云端模型服务,使用起来非常便捷。

1.4 设置Cherry Studio

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

然后在聊天界面,选择你所要对话的大模型,就可以直接对话了。如果出现对话说明本地部署DeepSeek R1大模型成功了。如果出现404啥的说明你没有配置对API地址,检查下面这两个操作是否配置对了。

在这里插入图片描述

默认模型选择你下载好的模型~

在这里插入图片描述

我让DeepSeek帮我安排一个行程,推理阶段吃掉我一半的CPU、内存也只省2G左右。

在这里插入图片描述

相关文章:

  • 什么是事务?并发事务引发的问题?什么是MVCC?
  • 如何在自定义组件中使用v-model实现双向绑定
  • Linux shell脚本,手机上跑的.sh脚本写法
  • Oeko-TexStandard100认证会产生哪些成本?
  • DeepSeek掘金——SpringBoot 调用 DeepSeek API 快速实现应用开发
  • 设计心得——接口
  • unplugin-vue-components,unplugin-auto-import,借用ai去学习
  • OpenMetadata MySQL数据质量治理实现分析
  • 基于C-V曲线的SiC IGBT全区域损伤提取方法
  • 深度学习数据集
  • 【YOLOv10改进[注意力]】引入ACmix机制(享有自注意力和卷积的优势) | CVPR 2021
  • 数据包在客户端和服务端,以及网络设备间如何传输的?
  • Golang | 每日一练 (3)
  • 虚拟地址与物理地址
  • 如何在简历中巧妙展现你的兴趣爱好
  • JavaScript数组常用的方法有哪些?map、filter、reduce 的区别和使用场景是什么?
  • 【Quest开发】全身跟踪(一)
  • 内置函数用法
  • 求两个正整数最大公约数的三种算法
  • Linux下 <用户名> is not in the sudoers file
  • 全球网站域名/外包公司到底值不值得去
  • 如何自己做网站一年赚一亿/淘宝热搜关键词排行榜
  • web网站开发团队介绍/seo外包公司报价
  • 做废塑料生意那个网站最专业/扬州seo博客
  • 零基础学软件测试难吗/seo提高关键词
  • 铜川新区网站建设招标/鸣蝉智能建站