当前位置: 首页 > news >正文

通过LM Studio本地私有化部署DeepSeek-R1模型,无网络也能用

打开LM Studio官网https://lmstudio.ai/

选择适合自己的操作系统,下载LM Studio安装包

本地电脑安装成功后运行LM Studio,顶部文本框输入deepseek,点击搜索模型

在搜索结果中选择7B参数模型,

如上图右侧提示“No result found”说明官方未直接提供deepseek gguf模型文件。

这时,我们需要自己到别处下载ds gguf文件,继续如下操作:

打开魔搭官网,https://modelscope.cn/

进入模型库,搜索deepseek-r1

选择deepseek-r1 gguf模型文件,根据你自己电脑的配置情况,选择大小合适的参数模型。(我选择了70亿参数的小模型)

点击下载模型文件,按提示命令操作(此步需要程序员操作)

按右侧窗口提示,选择正确的下载方式,这里需要下载独立的gguf文件保存到指定的文件路径。

Win+R 运行cmd 命令终端,请先确认pip(需要安装python环境)是否最新版本,否则先更新pip。

操作①,安装modelscope:pip install modelscope

安装过程中可能失败,提示:系统没有启用Windows长路径支持

win+R 运行regedit命令,打开系统注册表

找到以下位置:HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem,找到LongPathsEnabled的条目,双击打开

“数值数据”文本框值改为1,确定保存即可。

再次执行①,成功!

执行②,通过modelscope命令下载gguf文件到指定目录。

可能遇到modul错误

解决办法是:pip install setuptools -U

成功后继续执行②,安装进行中

模型GGUF文件下载100%完成!

打开LM Studio客户端,我的模型》模型目录》更改,设置路径地址为gguf文件所在目录的上二级目录文件夹。

回到聊天对话框,选择最新的模型。

从此刻开始你和DS AI畅聊吧~(无网也能聊,数据又安全

相关文章:

  • 【Java】集成easyexcel
  • 最新版IDEA下载安装教程
  • LangChain-基础(prompts、序列化、流式输出、自定义输出)
  • ESP32 websocket-client
  • 创建一个简单的spring boot+vue前后端分离项目
  • LangChain大模型应用开发:自定义工具调用
  • 基于 Highcharts 实现 Vue 中的答题统计柱状图组件
  • vue3 采用xlsx库实现本地上传excel文件,前端解析为Json数据
  • MES系统中物料核心属性定义
  • 探讨TikTok中匿名用户的社交关系
  • 第二章:17.3 随机森林算法
  • 伪404兼容huawei生效显示404
  • #渗透测试#批量漏洞挖掘#Cleo产品远程命令执行漏洞(CVE-2024-50623)
  • 大数据SQL调优专题——引擎优化
  • java(spring boot)实现向deepseek/GPT等模型的api发送请求/多轮对话(附源码)
  • 进程的介绍--进程状态/切换
  • 【代码审计】-Tenda AC 18 v15.03.05.05 /goform接口文档漏洞挖掘
  • 网站快速收录:如何设置robots.txt文件?
  • tiptap md 编辑器实用场景开发
  • 笔试算法题思路
  • 减重人生|吃得越少越好?比体重秤上的数字,更有意义的是什么?
  • 竞彩湃|英超欧冠悬念持续,纽卡斯尔诺丁汉能否拿分?
  • 茅台总经理到访五粮液:面对白酒行业周期性调整,需要团结一心的合力
  • 美国新泽西客运公司遭遇罢工:40年来首次,35万人受影响
  • 2025年“新时代网络文明公益广告”征集展示活动在沪启动
  • 征稿启事|澎湃·镜相第三届非虚构写作大赛暨2026第六届七猫现实题材征文大赛