当前位置: 首页 > news >正文

win11本地部署deepseek大模型(安装ollama+docker+open-webui)最终实现自己的项目可通过API调用投喂数据后的模型

硬件配置:笔记本win11,内存32G,CPU锐龙7 ,无独显;只能考虑deepseek-r1:1.5b模型。

第一步:安装Ollama

此处不过多累赘了,https://ollama.com/官网选择对应的系统版本下载即可。

需要注意的是直接安装是安装到C盘,也可以通过命令安装到D盘。

通过 ”OllamaSetup.exe /dir="D:\Program Files\Ollama”命令可以指定Ollama安装目录

C:\Users\weijian>d:
D:\>cd “Program Files"
D:\Program Files>OllamaSetup.exe /dir="D:\Program Files\Ollama”

安装成功后,再下载deepseek-r1的模型(并保存在 C 盘,C:\Users<username>.ollama\models 如果想更改默认路径,可以通过设置ollama_models进行修改,然后重启终端,重启 ollama 服务)。

ollama run deepseek-r1:1.5b

此处因为我下载完成了,第一次执行时候等待完成100%即可。

第二步:安装docker

安装之前准备工作

1 CPU开启虚拟化

没有开启的需要通过BIOS进行开启,这去取决于每个人的电脑,不同的品牌操作起来不一样

2启用关闭Windows功能

官网直接下载安装https://www.docker.com/

第三步:部署open-webui

开源open webUI 官网🏡 Home | Open WebUI

docker方式安装

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

完成后访问http://localhost:3000/

第一次登录需要注册管理员,进入后台发现页面非常友好且功能强大。

在工作空间内可以添加知识库,添加模型(基础模型+知识库)。

第四步:关于API调用问题

ollama的API调用   GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.

postman测试

 

open-webui的API调用

https://docs.openwebui.com/getting-started/api-endpoints/

postman测试

最后总结,部署还有其他方式 Linux系统  sglang/vllm。

相关文章:

  • kiln微调大模型-使用deepseek R1去训练一个你的具备推理能力的chatGPT 4o
  • 【十二】Golang 映射
  • 【多模态大模型学习】位置编码的学习记录
  • 【FFmpeg】拉流
  • 【架构师从入门到进阶】第五章:DNSCDN网关优化思路——第四节:请求链路中代理的作用
  • 设计模式-行为型-责任链模式
  • easy云盘笔记
  • 总结一下Java中的Synchronized同步锁的常见面试题
  • Java基础第14天-坦克大战【1】
  • 【C++修炼之路】C++类与对象:面向对象编程的第一步
  • 【JavaEE】SpringMVC获取HTTP中的元素
  • C# 弃元的使用
  • 决策树-分类
  • 鸿蒙OS特点对测试的影响
  • JVM垃圾回收器深度底层原理分析与知识体系构建
  • DDS技术分享(一)
  • std::ranges::ref_view,std::ranges::owning_view, std::ranges::views::all
  • 【TypeScript】ts在vue中的使用
  • 电脑显示屏亮度怎么调?电脑屏幕亮度调节步骤介绍
  • laravel11设置中文语言包
  • 河南省委常委会会议:坚持以案为鉴,深刻汲取教训
  • 绿景中国地产:洛杉矶酒店出售事项未能及时披露纯属疏忽,已采取补救措施
  • 体坛联播|C罗儿子完成国家队首秀,德约结束与穆雷合作
  • 美国务卿鲁比奥将前往土耳其参加俄乌会谈
  • 夜读|尊重生命的棱角
  • 耗资10亿潮汕豪宅“英之园”将强拆?区政府:非法占用集体土地