网页微信看朋友圈河南网站优化
这里写自定义目录标题
- 一、环境准备（20分钟）
- 1.1 系统要求
- 1.2 基础依赖安装
- 二、Ollama安装配置
- Windows（PowerShell管理员模式）
- 三、DeepSeek模型部署
- 3.1 下载模型文件
- 3.2 创建Modelfile
- 3.3 构建模型
- 四、运行测试
- 4.1 启动模型
- 4.2 测试本地ollama
- 4.3性能监控
一、环境准备（20分钟）
1.1 系统要求
- 操作系统：Linux/Windows/macOS
- 内存：≥16GB（推荐32GB）
- 存储：≥50GB 可用空间
- 显卡：支持CUDA的NVIDIA显卡（可选）
1.2 基础依赖安装
# Ubuntu/Debian示例
sudo apt update && sudo apt install -y curl wget python3-pip git
pip install virtualenv# Windows用户需额外安装：
- WSL2（推荐）
- NVIDIA驱动（如使用显卡）
二、Ollama安装配置
2.1 安装Ollama
# Linux/macOS
curl -fsSL https://ollama.ai/install.sh | sh
Windows（PowerShell管理员模式）
winget install ollama.ollama
2.2 验证安装
ollama --version # 应显示版本号≥0.1.20
三、DeepSeek模型部署
3.1 下载模型文件
# 下载官方GGUF格式模型（示例）
wget https://huggingface.co/deepseek-ai/deepseek-r1/resolve/main/deepseek-r1.Q4_K_M.gguf
3.2 创建Modelfile
FROM ./deepseek-r1.Q4_K_M.gguf
PARAMETER num_ctx 4096
PARAMETER temperature 0.7
PARAMETER num_gpu 4 # 根据实际GPU数量调整
3.3 构建模型
ollama create deepseek-r1 -f Modelfile
四、运行测试
4.1 启动模型
ollama serve & # 后台运行服务
ollama run deepseek-r1
4.2 测试本地ollama
>>> 为什么天空是蓝色的？
答案很好：因为太阳光的波长范围中，存在一种特别重要的波长，即可见光（380-780纳米）。在这个范围内，有大量的氮气和氧气分子。这些分子可以吸收短波长的紫外线，同时反射 longer波长的蓝色光。这就是为什么天空看起来是蓝
色的。还有一个更深入的科学原理：当太阳光照射到大气层时，会遇到水蒸汽、碳 monoxide 和其他小分子。这些分子可以吸收和散射光线，
使得蓝色光线被反射回我们看起来天空是蓝色的。当然，这只是一个简化的解释，但它给了你一个基本的了解，为什么天空看起来是蓝色的。如果你想知道更多关于太阳光、大气层和颜色的信息，可以问我任何其他问题。>>> Send
4.3性能监控
watch -n 1 nvidia-smi # GPU监控（如使用）
htop # CPU/内存监控