当前位置: 首页 > news >正文

windows本地部署DeepSeek实践

1 机器环境

测试环境
CPU:Intel®Core™i5-14400F 2.5GHZ
内存:16GB
显卡:AMD Radeon RX 7600 8G
操作系统:Windows 11
硬盘空间:512G SSD,剩余 200G

2 安装步骤

在本地部署 DeepSeek 只需要以下三步:

  • 安装 Ollama。
  • 部署 DeepSeek。
  • 使用 DeepSeek:这里我们使用 ChatBox 客户端操作 DeepSeek或者使用安装 AI WebUI(此步骤非必须)。
2.1 安装Ollama

Ollama 官网:https://ollama.com/ , 直接浏览器下载可能会比较慢,可以考虑使用下载工具如:迅雷 。 如下图所示下载界面。
在这里插入图片描述
下载完成后 直接双击安装,安装完成后,win+r,打开命令行ollama -v 检验是否安装成功。
在这里插入图片描述

Ollama 是一个开源的大型语言模型服务工具。它的主要作用是帮助用户快速在本地运行大模型,简化了在 Docker 容器内部署和管理大语言模型(LLM)的过程。
PS:Ollama 就是大模型届的“Docker”。
Ollama 优点如下:
易于使用:即使是没有经验的用户也能轻松上手,无需开发即可直接与模型进行交互。
轻量级:代码简洁,运行时占用资源少,能够在本地高效运行,不需要大量的计算资源。
可扩展:支持多种模型架构,并易于添加新模型或更新现有模型,还支持热加载模型文件,无需重新启动即可切换不同的模型,具有较高的灵活性。
预构建模型库:包含一系列预先训练好的大型语言模型,可用于各种任务,如文本生成、翻译、问答等,方便在本地运行大型语言模型。

2.2 部署deepseek

Ollama 支持大模型列表:https://ollama.com/library
在这里插入图片描述
命令行输入命令:ollama run deepseek-r1:7b ;如下图所示大概需要10分钟左右,这里以7b(70亿)为例
在这里插入图片描述
下载小技巧:当发现下载很慢时候,CTRL+C 终止下载,命令行重新执行下载,如下图所示
在这里插入图片描述
部署完成,属于问题测试一下
在这里插入图片描述

2.3 ChatBox 工具安装

ChatBox 官网地址:https://chatboxai.app/zh
官网下载完之后,直接安装,安装完成后配置下,如下图所示

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

参考文献
【1】https://xie.infoq.cn/article/ecf39b4deef6d36d61e4274b1?utm_campaign=geektime_search&utm_content=geektime_search&utm_medium=geektime_search&utm_source=geektime_search&utm_term=geektime_search

相关文章:

  • 【cuda学习日记】5.1 共享内存
  • 快检查达梦库怎么了
  • 不要升级,Flutter Debug 在 iOS 18.4 beta 无法运行,提示 mprotect failed: Permission denied
  • 数据库之PostgreSQL详解
  • 中间件专栏之Redis篇——Redis的三大持久化方式及其优劣势对比
  • 堆与二叉树
  • LVGL -------矩阵3
  • 计算机毕业设计SpringBoot+Vue.js智慧图书管理系统(源码+文档+PPT+讲解)
  • 安全测试之五:SQL Server注入漏洞几个实例
  • J5打卡——pytorch实现DenseNet+SE-Net猴痘分类
  • Java 反射(Reflection)的原理和应用
  • FPGA开发,使用Deepseek V3还是R1(6):以滤波器为例
  • Python接口自动化中操作Excel文件的技术方法
  • 时态知识图谱补全推理任务评价指标
  • 利用python实现对.xls文件表头的修改
  • openwebUI访问vllm加载deepseek微调过的本地大模型
  • STaR(Self-Taught Reasoner)方法:让语言模型自学推理能力(代码实现)
  • 算法题(83):寄包柜
  • 【重构小程序】升级JDK1.8、SpringBoot2.x 到JDK17、Springboot 3.x(一)
  • nano 是 Linux 系统中的一个 命令行文本编辑器
  • 东港建站公司/百度一下官网网址
  • 网站建设费记到什么科目/百度官网推广
  • 北京通州区网站制作/汕头seo优化
  • 毕业设计做网站答辩/制作链接的app的软件
  • 二手购物网/网站快速排名优化价格
  • 吕梁做网站的公司/站长统计app