甘肃省住房和城乡建设部网站2024年3月新冠高峰

[AI]Mac本地部署DeepSeek R1模型 — — 保姆级教程

DeepSeek R1是中国AI初创公司深度求索（DeepSeek）推出大模型DeepSeek-R1。 作为一款开源模型，R1在数学、代码、自然语言推理等任务上的性能能够比肩OpenAI o1模型正式版，并采用MIT许可协议，支持免费商用、任意修改和衍生开发等。 截至2月5日，国内外已有众多云平台宣布上线DeepSeek- R1大模型。

• DeepSeek官方地址：https://www.deepseek.com/
  
• 但因目前遭到国外不明人员攻击以及访问量激增的原因，导致官方聊天不稳定，本文将介绍如何本地安装部署Deepseek R1模型，解决网络不稳定的窘境

安装ollama

1. 访问官网选择mac os进行下载，官网地址：https://ollama.com/
   

2. 下载下来的文件为：Ollama-darwin.zip

3. 点击解压，并移动到application
   

4. 点击next，点击Install安装ollama

安装Deepseek模型

1. 根据页面提示在终端执行命令，运行ollama即可（但因为我们需要部署deepseek，所以后面修改下模型版本即可）
   

2. 来到ollama官网，点击models，选择对应版本
   

3. 点击之后，复制对应命令，在终端执行即可
   
   

4. 等待模型下载完成后，就可以直接在终端进行对话
   

安装可视化聊天页面chatbox

1. 通过终端命令行操作肯定是不太方便的，所以接下来我们将通过chatbox搭建web可视化页面，方便我们与其对话

• 打开官方地址：https://chatboxai.app/en，点击download
  
• 根据自己mac搭载的芯片，选择对应版本进行下载
  

2. 下载完后是.dmg文件，直接双击无脑安装即可
   
3. 然后在应用程序中找到我们安装的chatbox，双击启动，并选择使用自己的本地模型
   
   
4. 选择模型提供方ollama，并配置本地模型参数
   

查看效果

来到聊天框，输入问题，查看AI回答：

拓展：ollama常用命令

# 启动ollama服务
ollama serve# 创建模型：使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile
ollama create /path/to/Modelfile# 显示模型信息
ollama show model_name# 列出本地所有模型
ollama list
ollama ls# 运行模型
ollama run model_name# 列出正在运行的模型
ollama ps# 停止模型
ollama stop model_name# 删除一个已安装的模型
ollama rm model_name# 查看版本信息
ollama -v# 复制模型
ollama cp old_model new_model# 拉取远端模型
ollama pull model_name# 将本地模型推送到模型注册表中，以便他人或其他系统使用
ollama push model_name# 使用 ollama run 命令启动模型并进入交互模式，在交互模式下，输入 /bye 或按下 Ctrl+d 退出
ollama run deepseek-r1:1.5b# 单次命令交互
echo "你是谁？" | ollama run deepseek-r1:1.5b