当前位置：首页 > news >正文

Deepseek本地部署

news 来源：原创 2025/5/18 4:06:31

一，Deepseek本地部署方式

有UI且简单：LM Studio、Text Generation WebUI。

高效率但无UI：Ollama、LLama.cpp、Tabby。

二，通过Ollama本地部署Deepseek

1，什么是Ollama

Ollama是一个开源的 LLM（大型语言模型）服务工具，用于简化在本地运行大语言模型，降低使用大语言模型的门槛，使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型，包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

2，下载Ollama

下载地址：https://ollama.com/

在这里插入图片描述
下载后直接安装即可，安装完后通过以下命令查看是否安装成功

//通过win+R 输入cmd，打开黑窗口后输入下面命令，可以查看安装的ollama版本号
ollama -v

在这里插入图片描述

3，在ollama上安装deepseek

在ollama官网上可以直接下载安装deepseek，根据自己的显卡性能选择不同大小的模型
在这里插入图片描述

不建议安装1.5版本，有点弱智，各个版本要求如下

复制deepseek安装命令到黑窗口，等待安装完成就可以对话了

//allama上下载deepseek模型
ollama pull deepseek-r1:8b
//ollama上下载安装并运行deepseek的命令
ollama run deepseek-r1:8b
//暂停deepseek安装命令
Ctrl+C
//退出deepseek模型
Ctrl+D
//查看ollama上安装了那些模型
ollama list
//根据模型版本，运行deepseek模型
ollama run deepseek-r1:8b

在这里插入图片描述

4，安装可视化操作界面Chatbox

上面虽然可以和deepseek交互，但是不美观，所以我们需要安装一个可视化界面方便操作。Chatbox就是专为新手设计的免费工具客户端！
Chatbox就像一个「聊天窗口」，界面美观简洁，让你用最直观的方式在本地向DeepSeek等AI模型提问、写代码、翻译文字、实时联网搜索与查询、AI图片生成，而无需懂编程。
Chatbox AI 支持所有的主流 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上免费使用。

Chatbox下载地址：https://chatboxai.app/zh

在这里插入图片描述