当前位置: 首页 > news >正文

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用

打开LM Studio官网https://lmstudio.ai/

选择适合自己的操作系统,下载LM Studio安装包

本地电脑安装成功后运行LM Studio,顶部文本框输入deepseek,点击搜索模型

在搜索结果中选择7B参数模型,

如上图右侧提示“No result found”说明官方未直接提供deepseek gguf模型文件。

这时,我们需要自己到别处下载ds gguf文件,继续如下操作:

打开魔搭官网,https://modelscope.cn/

进入模型库,搜索deepseek-r1

选择deepseek-r1 gguf模型文件,根据你自己电脑的配置情况,选择大小合适的参数模型。(我选择了70亿参数的小模型)

点击下载模型文件,按提示命令操作(此步需要程序员操作)

按右侧窗口提示,选择正确的下载方式,这里需要下载独立的gguf文件保存到指定的文件路径。

Win+R 运行cmd 命令终端,请先确认pip(需要安装python环境)是否最新版本,否则先更新pip。

操作①,安装modelscope:pip install modelscope

安装过程中可能失败,提示:系统没有启用Windows长路径支持

win+R 运行regedit命令,打开系统注册表

找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的条目,双击打开

“数值数据”文本框值改为1,确定保存即可。

再次执行①,成功!

执行②,通过modelscope命令下载gguf文件到指定目录。

可能遇到modul错误

解决办法是:pip install setuptools -U

成功后继续执行②,安装进行中

模型GGUF文件下载100%完成!

打开LM Studio客户端,我的模型》模型目录》更改,设置路径地址为gguf文件所在目录的上二级目录文件夹。

回到聊天对话框,选择最新的模型。

从此刻开始你和DS AI畅聊吧~(无网也能聊,数据又安全

http://www.dtcms.com/a/30070.html

相关文章:

  • 【Java】集成easyexcel
  • 最新版IDEA下载安装教程
  • LangChain-基础(prompts、序列化、流式输出、自定义输出)
  • ESP32 websocket-client
  • 创建一个简单的spring boot+vue前后端分离项目
  • LangChain大模型应用开发:自定义工具调用
  • 基于 Highcharts 实现 Vue 中的答题统计柱状图组件
  • vue3 采用xlsx库实现本地上传excel文件,前端解析为Json数据
  • MES系统中物料核心属性定义
  • 探讨TikTok中匿名用户的社交关系
  • 第二章:17.3 随机森林算法
  • 伪404兼容huawei生效显示404
  • #渗透测试#批量漏洞挖掘#Cleo产品远程命令执行漏洞(CVE-2024-50623)
  • 大数据SQL调优专题——引擎优化
  • java(spring boot)实现向deepseek/GPT等模型的api发送请求/多轮对话(附源码)
  • 进程的介绍--进程状态/切换
  • 【代码审计】-Tenda AC 18 v15.03.05.05 /goform接口文档漏洞挖掘
  • 网站快速收录:如何设置robots.txt文件?
  • tiptap md 编辑器实用场景开发
  • 笔试算法题思路
  • 让浏览器AI起来:基于大模型Agent的浏览器自动化工具
  • 06、ElasticStack系列,第六章:elasticsearch设置密码
  • MinkowskiEngine安装(CUDA11.8+torch2.0.1+RTX4070TI)
  • 挖矿病毒实战分析
  • 题海拾贝:【枚举】P2010 [NOIP 2016 普及组] 回文日期
  • stm32单片机个人学习笔记16(SPI通信协议)
  • Unity游戏制作中的C#基础(1)界面操作基础
  • 25旅游管理研究生复试面试问题汇总 旅游管理专业知识问题很全! 旅游管理复试全流程攻略 旅游管理考研复试真题汇总
  • 谈谈对线程的认识
  • 23.2 HtmlDocument类