当前位置: 首页 > news >正文

本地部署DeepSeek R1大模型

一、安装软件

1.1 安装Ollama

你可以访问Ollama的官方网站https://ollama.com/download,选择适合你操作系统的安装包进行下载。老周这里是Mac系统,所以选择下载macOS系统。在这里插入图片描述

1.2 安装cherry studio

前往官网https://cherry-ai.com/download下载对应操作系统的安装包

在这里插入图片描述
1.3 下载deepseek R1本地模型

直接前往Ollama官网:https://ollama.com/library/deepseek-r1

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型,

查下自己MAC电脑的显存:

system_profiler SPDisplaysDataType | grep "VRAM"

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型。

老周这里让 DeepSeek 帮我推荐使用哪个参数的模型。

在这里插入图片描述
根据推荐老周这里选择了8b参数的模型:

ollama run deepseek-r1:8b

打开终端(Mac OS)或运行(Windows,可以用win键+r快捷键弹出),粘贴刚刚复制的代码(ollama run deepseek-r1:8b)

在这里插入图片描述
接下来可能有点慢,测你家网速的时候到了。

在这里插入图片描述

下载完成后,你已经可以直接使用Deepseek R1这个大模型了。不过,为了让大家有更好的体验,我特别推荐使用Cherry Studio这个工具。它不仅能调用你本地下载的模型,还可以连接各种云端模型服务,使用起来非常便捷。

1.4 设置Cherry Studio

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

然后在聊天界面,选择你所要对话的大模型,就可以直接对话了。如果出现对话说明本地部署DeepSeek R1大模型成功了。如果出现404啥的说明你没有配置对API地址,检查下面这两个操作是否配置对了。

在这里插入图片描述

默认模型选择你下载好的模型~

在这里插入图片描述

我让DeepSeek帮我安排一个行程,推理阶段吃掉我一半的CPU、内存也只省2G左右。

在这里插入图片描述

http://www.dtcms.com/a/30492.html

相关文章:

  • 什么是事务?并发事务引发的问题?什么是MVCC?
  • 如何在自定义组件中使用v-model实现双向绑定
  • Linux shell脚本,手机上跑的.sh脚本写法
  • Oeko-TexStandard100认证会产生哪些成本?
  • DeepSeek掘金——SpringBoot 调用 DeepSeek API 快速实现应用开发
  • 设计心得——接口
  • unplugin-vue-components,unplugin-auto-import,借用ai去学习
  • OpenMetadata MySQL数据质量治理实现分析
  • 基于C-V曲线的SiC IGBT全区域损伤提取方法
  • 深度学习数据集
  • 【YOLOv10改进[注意力]】引入ACmix机制(享有自注意力和卷积的优势) | CVPR 2021
  • 数据包在客户端和服务端,以及网络设备间如何传输的?
  • Golang | 每日一练 (3)
  • 虚拟地址与物理地址
  • 如何在简历中巧妙展现你的兴趣爱好
  • JavaScript数组常用的方法有哪些?map、filter、reduce 的区别和使用场景是什么?
  • 【Quest开发】全身跟踪(一)
  • 内置函数用法
  • 求两个正整数最大公约数的三种算法
  • Linux下 <用户名> is not in the sudoers file
  • 《晶体管电路设计》 第三章 增强输出的电路
  • 【Python项目】基于Python的Web漏洞挖掘系统
  • 超级详细,知识图谱系统的理论详解+部署过程
  • 全局错误处理如何与Vue Router集成?
  • JavaScript中的symbol类型的意义和使用
  • ssm-day06 ssm整合
  • SpringBoot 项目配置动态数据源
  • 【C++篇】树影摇曳,旋转无声:探寻AVL树的平衡之道
  • Apache Logic4j 库反序列化漏洞复现与深度剖析
  • 【蓝桥杯集训·每日一题2025】 AcWing 6135. 奶牛体检 python