当前位置: 首页 > news >正文

在我的电脑上构建ollama+deepseek-r1-7b运行环境;

这里写自定义目录标题

    • 一、环境准备(20分钟)
      • 1.1 系统要求
      • 1.2 基础依赖安装
    • 二、Ollama安装配置
  • Windows(PowerShell管理员模式)
    • 三、DeepSeek模型部署
      • 3.1 下载模型文件
      • 3.2 创建Modelfile
      • 3.3 构建模型
    • 四、运行测试
      • 4.1 启动模型
      • 4.2 测试本地ollama
      • 4.3性能监控

一、环境准备(20分钟)

1.1 系统要求

  • 操作系统:Linux/Windows/macOS
  • 内存:≥16GB(推荐32GB)
  • 存储:≥50GB 可用空间
  • 显卡:支持CUDA的NVIDIA显卡(可选)

1.2 基础依赖安装

# Ubuntu/Debian示例
sudo apt update && sudo apt install -y curl wget python3-pip git
pip install virtualenv

# Windows用户需额外安装:
- WSL2(推荐)
- NVIDIA驱动(如使用显卡)

二、Ollama安装配置

2.1 安装Ollama

# Linux/macOS
curl -fsSL https://ollama.ai/install.sh | sh

Windows(PowerShell管理员模式)

winget install ollama.ollama

2.2 验证安装

ollama --version  # 应显示版本号≥0.1.20

三、DeepSeek模型部署

3.1 下载模型文件

# 下载官方GGUF格式模型(示例)
wget https://huggingface.co/deepseek-ai/deepseek-r1/resolve/main/deepseek-r1.Q4_K_M.gguf

3.2 创建Modelfile

FROM ./deepseek-r1.Q4_K_M.gguf
PARAMETER num_ctx 4096
PARAMETER temperature 0.7
PARAMETER num_gpu 4  # 根据实际GPU数量调整

3.3 构建模型

ollama create deepseek-r1 -f Modelfile

四、运行测试

4.1 启动模型

ollama serve &  # 后台运行服务
ollama run deepseek-r1

4.2 测试本地ollama

>>> 为什么天空是蓝色的?
答案很好:因为太阳光的波长范围中,存在一种特别重要的波长,即可见光(380-780纳米)。在这个范围内,有大量的氮气和氧气分子。这些分子可以吸收短波长的紫外线,同时反射 longer波长的蓝色光。这就是为什么天空看起来是蓝
色的。

还有一个更深入的科学原理:当太阳光照射到大气层时,会遇到水蒸汽、碳 monoxide 和其他小分子。这些分子可以吸收和散射光线,
使得蓝色光线被反射回我们看起来天空是蓝色的。

当然,这只是一个简化的解释,但它给了你一个基本的了解,为什么天空看起来是蓝色的。

如果你想知道更多关于太阳光、大气层和颜色的信息,可以问我任何其他问题。

>>> Send

4.3性能监控

watch -n 1 nvidia-smi  # GPU监控(如使用)
htop  # CPU/内存监控

相关文章:

  • C++相关
  • 泛目录:无极智能SEO 流量引擎
  • 【Qt】常用控件
  • python3面试题23个(设计模式、面向对象、正则)
  • 特殊行车记录仪DAT视频丢失的恢复方法
  • 吴恩达机器学习笔记复盘(十一)逻辑回归的代价和损失函数
  • 为什么IE不支持{‘a‘:11,‘b‘:‘s2‘} 单引号的JSON数据
  • leetcode二叉树3
  • thinkphp漏洞再现
  • Anaconda 安装NCL (Linux系统)
  • GithubPages+自定义域名+Cloudfare加速+浏览器收录(2025最新排坑)
  • [免费]SpringBoot+Vue扶贫管理系统【论文+源码+SQL脚本】
  • Unity3D 动态遮挡剔除(Occlusion Culling)
  • 基于Spring Boot的智能停车计费系统的设计与实现(LW+源码+讲解)
  • 针对 WebView 强制使用本地字体的完整解决方案
  • windows docker如何修改 默认的Container memory usage
  • 2025-如何创建自己的电商网站
  • cfca 申请国密证书流程
  • Aider的Repo Map功能
  • 跨域问题的解决方案
  • 有哪些做短租的网站好/如何进行搜索引擎优化?