远近互联网站建设公司logo墙设计图片
基于ollama搭建本地deepseek大模型服务
- 简介
- 准备工作
- 系统要求
- ollama的安装
- ollama 模型
- ollama 安装流程
- ollama 如何运行大模型
- 前端部署
- 注意事项
简介
本指南旨在帮助初学者在本地环境中设置和运行DeepSeek大模型服务。本文将使用Ollama平台来简化这一过程，确保即使是新手也能顺利完成安装。
准备工作
系统要求
- 操作系统：Linux或MacOS（Windows用户可以考虑使用WSL）
- 内存：建议至少16GB RAM
- 存储空间：根据所选模型大小而定，建议预留至少50GB可用空间
ollama的安装
ollama : github | 官网.
ollama 模型
在ollama官网提供了很多最新的大模型。如下：
基本上开源的模型都能在上面找到，大家根据自己需求去安装。
ollama 安装流程
在ollama 源码目录下有readme文档，安装过程写的很详细，自己可以参考。连接打不开或不想看的下面简单介绍一下。
- macOS平台下载链接（https://ollama.com/download/Ollama-darwin.zip）
- windows平台下载链接（https://ollama.com/download/OllamaSetup.exe）
- Linux平台 执行下面命令：
curl -fsSL https://ollama.com/install.sh