当前位置: 首页 > news >正文

DeepSeek-R1本地部署简易教程

一、什么是DeepSeek

DeepSeek R1 是一款开源的AI模型,它与 OpenAI 的 o1 和 Claude 3.5 Sonnet 等顶级模型竞争,特别是在数学、编程和推理等任务上表现出色。它是免费的、私密的,并且支持在本地硬件上离线运行。

DeepSeek R1 提供了多个版本,涵盖从轻量级的1.5B参数模型到功能强大的70B参数版本。从技术角度来看,它基于 Qwen 7B 架构,经过精简和优化,确保在保持强大性能的同时,提升了运行效率。

DeepSeek 的最大亮点是,它能够与一些领先的商业AI模型相媲美,但作为开源项目,你可以在本地运行它,完全不依赖云服务器,从而更好地掌控你的数据。

目前最新的 DeepSeek-R1 提供了多个蒸馏后的参数模型,包括有:1.5b、7b、8b、14b、32b、70b,以及满血版 671b 大模型。

DeepSeek-R1各版本特性

二、为什么要在本地运行?

将AI模型部署在本地有以下几个显著优势:

隐私保护:所有数据都存储在你的设备上,避免了敏感信息泄露的风险。
成本节省:DeepSeek R1 完全免费,无需支付订阅或使用费用。
完全控制:你可以随时对模型进行微调和实验,不依赖任何外部平台。

DeepSeek的优点

read-normal-img

三、安装步骤(共三步)

Windows环境下本地部署DeepSeek-R1

步骤1、安装Ollama

为了在本地成功运行 DeepSeek R1,我们需要借助 Ollama,它是一个专为在本地计算机上运行AI模型而设计的工具。

Ollama 官网:https://ollama.com/download

安装完成后,Ollama 提供了一个简单的方法,可以直接通过终端提取并运行模型。

步骤2、拉取 DeepSeek R1 模型

Ollama 支持多个版本的 DeepSeek R1。模型越大,智能程度越高,但所需的 GPU 配置也越强。

具体模型:https://ollama.com/search

本教程将安装一个基础级模型,大家可以根据自己的硬件条件选择适合的版本。

由于 Ollama 部署的是量化版本,这使得显存需求大幅降低。通常情况下,8G 显存足够支持 8B 级别模型,而 24G 显存则适配 32B 模型。

运行 1.5B 或者 7B  8B模型

ollama run deepseek-r1:1.5b

ollama run deepseek-r1:7b

ollama run deepseek-r1:8b

这个命令会提取 1.5B 模型并将其设置为本地运行。

如果出现错误,可以尝试以下指令:

ollama run deepseek-r1

该命令默认下载 7B 大小的模型。

根据网络速度的不同,下载过程可能会有些慢,如果你的网速较慢,可能需要等待约 20 分钟左右。一旦下载完成,模型就可以开始运行了。

步骤3、安装聊天框

完成上述步骤后,说明你已经在电脑上成功部署了 DeepSeek,可以通过终端与 DeepSeek R1 进行交互。不过,如果你希望拥有更加流畅和直观的交互体验,可以使用 GUI(图形用户界面)。

Chatbox是一款智能对话工具,结合了人工智能技术和便捷的操作界面,支持Windows、MacOS、Linux、Android、iOS及网页端,可帮助用户快速完成任务。Chatbox 是与本地模型集成的常见工具,它是一个免费的桌面客户端,注重隐私保护。

进入Chatbox官网(网址为https://chatboxai.app/zh),找到适合自己电脑系统的版本,下载并完成安装。

安装完成后,在选择配置API模型那里选择“Ollama API”;

将 API 主机设置为:http://127.0.0.1:11434

选择 DeepSeek R1 作为活动模型

保存

到这里,你的 DeepSeek 部署就完成了。你可以根据自己的需求训练 DeepSeek,将其打造成为一个私有的资料库,随时为你提供支持。

相关文章:

  • Python数据结构实战:链表的构建与操作
  • Nginx安装:源代码编译安装
  • vmware虚拟机Ubuntu Desktop系统怎么和我的电脑相互复制文件、内容
  • 硬件岗位是否适合你?
  • Linux环境基础开发工具的使用(三)
  • 用算术右移操作实现整型数的除法
  • 【git】工作流实战:从本地仓库到远程仓库,git pull 与git rebase使用讲解,案例解析
  • C++,设计模式,【工厂方法模式】
  • Openssl之SM2加解密命令
  • 【个人记录】openEuler安装K3S并配置为GPU节点
  • python高效使用06_while_True和while_1哪个效率更高
  • OpenCV形态学操作
  • Windows 10事件查看器
  • PINN求解一维burgers方程
  • 【AB-01】 AUTOSAR Builder软件安装
  • C++:从拷贝构造函数到深浅拷贝
  • 如何修改Windows系统Ollama模型存储位置
  • 第三章 组件(7)- 布局与Sections
  • Java——面向对象编程
  • 使用多态来替换条件语句
  • 江苏建设集团招聘信息网站/网络营销有本科吗
  • 做分销微商城网站/seo搜索排名优化公司
  • 网站做进一步优化/sem竞价广告
  • 成都专业网站制作多少钱/网站测速
  • 网页设计网站制作收获/龙泉驿网站seo
  • 什么能建我的网站呢/seo优化案例