当前位置: 首页 > news >正文

【deepseek】本地部署+webui访问

背景

最近deepseek很火,但是官网的老是被限流使用,还有就是自己也想着玩一玩,于是准备在自己电脑跑一个

直接附上结果地址mydeepseek

在这里插入图片描述

准备工作

windows和linux都可

  • 我这里选择linux,ubuntu系统

安装ollama

  • 看下图,直接复制,在自己电脑终端执行,等待即可在这里插入图片描述
    在这里插入图片描述
  • 等待下载完成

安装模型

  • 如下图,选择自己电脑能带动的模型直接run,就会下载上
    在这里插入图片描述
  • 然后就可以在终端与deepseek进行交互了
  • 也可以安装多个模型,相同的操作,使用ollama run deepseek-r1:对应的版本即可

终端使用毕竟不方便,于是将其发布出来使用webui进行使用

  • 我这里选择的open-webui
  • 我这里直接根据官方文档使用docker启动docker run -d --network host -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main,当然网络做了自己的更改,没有使用官网的
    在这里插入图片描述
  • 这样之后你就可以通过http://localhost:8080进行使用了

发布到公网

  • 参考参考我这个文档
  • 内网穿透 + nginx代理实现

下面附上nginx配置ssl配置参考文章

 server{
    listen 80;
    server_name deepseek.douwen.top;# 我的公网域名
    listen 443 ssl; # managed by Certbot
    server_name deepseek.douwen.top; # 我的公网域名
    ssl_certificate /etc/letsencrypt/live/deepseek.douwen.top/fullchain.pem; # managed by Certbot 我的自签证书
    ssl_certificate_key /etc/letsencrypt/live/deepseek.douwen.top/privkey.pem; # managed by Certbot  我的自签证书私钥
    include /etc/letsencrypt/options-ssl-nginx.conf; # managed by Certbot 支持ssl的nginx配置
    ssl_dhparam /etc/letsencrypt/ssl-dhparams.pem; # managed by Certbot

    location / {
        proxy_pass http://192.168.3.27:8080;  # 代理到内网服务 open-webui访问地址
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "Upgrade";
        proxy_connect_timeout 30s;  # 连接后端服务器的超时时间
        proxy_send_timeout 60s;     # 发送请求到后端的超时时间
        proxy_read_timeout 120s;    # 等待后端服务器响应的超时时间
    }

}

相关文章:

  • 论文阅读笔记:Continual Forgetting for Pre-trained Vision Models
  • Imagination GPU 3D Graphics Wrokload
  • linux基础语法2
  • 开源文件存储系统
  • 提升数据洞察力:五款报表软件助力企业智能决策
  • 【Mysql】我在广州学Mysql 系列—— 性能优化相关例题
  • 设计模式之代理设计模式
  • nodejs用ws模块反向代理socks5数据,即用ws写服务端和客户端及加密
  • Spring Boot + Apache POI 实现 Excel 导出:BOM物料清单生成器(支持中文文件名、样式美化、数据合并)
  • 2.26 notes on cxl
  • AI工具库:技术爱好者装备新势能
  • debian 12安装 postgresql 17
  • Idea java项目结构介绍
  • 使用插件 `vue2-water-marker`添加全局水印
  • 拐弯的时间线
  • 通过返回的key值匹配字典中的value值
  • C++ Primer Plus第八章课后习题总结
  • win11系统通过WSL安装ubuntu
  • 模电学习笔记
  • 服务端配置TCP探活,超出探活时间后的行为?
  • 网站建设流程步骤为需求分析/恩施seo整站优化哪家好
  • wordpress怎么滚动图片/抖音seo优化排名
  • 嘉兴网站建设哪家好/网络广告投放
  • 做的比较好的网页设计网站/个人如何在百度做广告
  • 微博网站开发/长沙全网覆盖的网络推广
  • java做房屋拍卖网站/网站维护费用一般多少钱