当前位置: 首页 > news >正文

5000元组装一台本地运行中、小模型主机,参考配置 (运行DeepSeek、Qwen)

5000元组装一台本地运行中、小模型主机,参考配置 (运行DeepSeek、Qwen)

5000元中、小模型主机 DeepSeek、Qwen 各精度模型推荐启动方式

模型名称

参数量

精度

模型大小

推荐运行模式

DeepSeek R1

7b

Q4

5 GB

LM Studio纯GPU

14b

Q4

9 GB

LM Studio纯GPU

32b

Q4

20 GB

LM Studio纯GPU

Q8

35 GB

Ollama纯CPU

FP16

66 GB

Ollama纯CPU

70b

Q4

43 GB

Ollama纯CPU

Q8

75 GB

FP16

141 GB

671b

Q4

404 GB

不能运行

(增大虚拟内存可启动)

Q8

713 GB

FP16

1.3 TB

Qwen

qwq

32b

Q4

20GB

LM Studio纯GPU

Q8

35GB

LM Studio GPU+CPU

FP16

66GB

Ollama纯CPU

Ollama下载模型拷贝到 LM Studio \models 目录下需要建立两层子目录,并改文件格式为.gguf

C:\Users\Administrator\.lmstudio\models\Qwen\Qwq\qwq-fp16.gguf    

http://www.dtcms.com/a/99055.html

相关文章:

  • 前缀和c++
  • 2两数相加解题记录
  • Nyquist插件基础:打印格式化字符串(LISP语言)
  • Java虚拟机(JVM)详解
  • 前端 vue 项目上线前操作
  • Spring Cache:简化缓存管理的抽象框架
  • MCP, LangChain、Dify 区别
  • 3.30日 001:中央海岸VS珀斯光荣
  • 操作系统 :进程概念
  • 集多功能为一体的软件,支持批量操作。
  • web权限划分提权和移权
  • 自行车模型与汽车模型的混合策略在自动驾驶中的多维度协同优化
  • graylog使用过程中的几个问题
  • 根据二叉树创建字符串
  • Linux的进程优先级调度学习笔记
  • 智慧运维平台:赋能未来,开启高效运维新时代
  • React 中props的不可变性,如何在组件中处理需要修改props的情况?
  • 每日一题 MySQL基础知识----(三)
  • 饮食 “妙方”,助力进行性核上性麻痹调养
  • 学校智慧路灯的主要功能有哪些?
  • Python第六章19:函数的多种参数类型对比
  • 【嵌入式学习3】零散知识点
  • 【C++篇】类与对象(上篇):从面向过程到面向对象的跨越
  • 【8】递归之经典题型总结
  • Redis6数据结构之String类型
  • DeepSeek本地部署(linux)
  • 零基础驯服GitHub Pages
  • Linux进程管理之子进程的创建(fork函数)、子进程与线程的区别、fork函数的简单使用例子、子进程的典型应用场景、父进程等待子进程结束后自己再结束
  • Elasticsearch 高级
  • 分库分表策略