【10 分钟！M4 Mac mini 离线部署「私有 ChatGPT」完整实录】
（支持上传文件 / 图片 / 代码高亮，全程 4 命令 3 点击）
一、前言
2025 年，开源大模型已卷到 8B 就能打 GPT-3.5。
手里这台 M4 Mac mini（24 GB + 512 GB）空着也是吃灰，不如 10 分钟搭一个「离线 ChatGPT」：
- 数据不出本地，内网/飞机模式可用
- 支持聊天、传文件、贴图片、代码高亮
- 零费用、零订阅、可商用
跟着本文，复制 4 行命令、点 3 次鼠标即可搞定！
二、最终效果
| 功能 | 演示 |
|---|---|
| 多轮对话 | 写周报、改简历、解算法题 |
| 上传文件 | PDF/Word/TXT 一键总结 |
| 贴图片 | 表格截图 → Markdown |
| 代码高亮 | C++/Python/Go 自动补全 |
三、硬件 & 系统
- Mac mini M4（macOS 15.x）
- 内存 ≥ 16 GB（推荐 24 GB）
- 硬盘剩余 ≥ 10 GB（实际占用 ≈ 5 GB）
四、步骤总览（10 分钟流水账）
① 安装 Ollama（模型引擎）
- 官网 https://ollama.com → Download for mac
- 解压拖进 Applications → 首次启动点 Install CLI
- 验证：
ollama --version # 0.3.x
② 拉取 & 启动模型（qwen2.5-coder 7B-int4）
ollama pull qwen2.5-coder:7b-instruct-q4_K_M # 3.9 GB
ollama serve & # 仅启动服务
小技巧：
serve不进入交互，终端不再卡死。
③ 安装 Chatbox（可视化 UI）
- https://chatboxai.app/zh → Download for mac
- 拖进 Applications → 启动
- 设置向导：
- 模型提供方 → Ollama
- 模型名 →
qwen2.5-coder:7b-instruct-q4_K_M - API 地址 → 默认
http://localhost:11434
保存后右侧出现 ✅，即可开聊！
④ 功能体验
| 场景 | 操作 |
|---|---|
| 写周报 | 输入“把我这周的 git 日志变成 3 行中文周报” |
| 传文件 | 左下角 📎 上传 PDF → 提问“总结 5 个要点” |
| 贴图片 | 拖拽 JPG → “把图中表格转 Markdown” |
| 代码补全 | “用 C++17 实现线程池” → 一键复制高亮代码 |
五、进阶玩法
-
开机自启
系统设置 → 登录项 → 添加Ollama.app+Chatbox.app -
换更大模型
ollama pull deepseek-coder-v2:8b # 8B 代码强化Chatbox 设置里下拉切换即可，历史记录保留。
-
外挂 SSD
launchctl setenv OLLAMA_MODELS "/Volumes/SSD/ollama"
六、一键卸载（可选）
ollama stop
rm -rf ~/.ollama /Applications/Ollama.app /Applications/Chatbox.app
七、结语
至此，你的 M4 Mac mini 已变身「离线 AI 工作站」：
- 0 订阅费、0 网络依赖
- 源码、病历、合同随便传，数据不出本地
- 后续想玩 30 B、多模态、RAG，也只是多敲一行
pull的事
Have fun hacking AI！
如果本文帮到你，欢迎点个赞 & 收藏～