当前位置: 首页 > news >正文

ubuntu docker 安装 deepseek anythingllm/openwebui教程

全新服务器安装起始:

1. 安装ubuntu到服务器中

2. 安装docker

        安装教程 ubuntu 安装 docker详细教程_ubuntu安装教程docker-CSDN博客

3. 安装 ollama

docker pull ollama/ollama

3.1 创建 存储目录 (示例放在/home/ollama中)

cd /home/
mkdir ollama
chmod 777 ollama

3.2 创建ollama 容器

docker run -d -v /home/ollama:/root/.ollama -p 11434:11434 --name ollama --restart=always ollama/ollama

3.3 验证是否安装成功

3.4 安装对应的deepseek 模型(示例安装 14b,目前纯cpu再跑,32核32G 照样100%)

docker exec -it ollama ollama run deepseek-r1:14b

3.5  安装完成尝试问答

4. 安装 open-webui

docker pull ghcr.io/open-webui/open-webui:main

4.1 创建存储目录

cd /home/
mkdir openui
chmod 777 openui

4.2 安装完成后创建容器

docker run -p 3030:8080 --add-host=host.docker.internal:host-gateway -v /home/openui:/app/backend/data --name open-webui --restart=always -d ghcr.io/open-webui/open-webui:main

4.3 验证是否安装成功

5. 安装 anythingllm

docker pull mintplexlabs/anythingllm

5.1 创建存储目录

cd /home/
mkdir anythingllm
chmod 777 anythingllm
cd anythingllm
mkdir storage
mkdir env

5.2 创建容器

docker run -d --name anythingllm --add-host=host.docker.internal:host-gateway --env STORAGE_DIR=/app/server/storage --health-cmd "/bin/bash/use/local/bin/docker-healthcheck.sh || exit 1" --health-interval 60s --health-start-period 60s --health-timeout 10s --cap-add SYS_ADMIN -p 3001:3001/tcp --restart=always --user anythingllm -v /home/anythingllm/env:/app/server/storage/.env -v /home/anythingllm/storage:/app/server/storage -w /app -d mintplexlabs/anythingllm

5.3 验证是否安装成功

6. 至此所有安装完成,愉快体验本地版 deepseek ,没显卡的话 速度非常感人。

7. 步骤 3 4 5 可以多开ssh 同时进行,安装都很慢

参考链接

LLM学习笔记2——使用Docker(Ollama+OpenWebUI)实现本地部署DeepSeek-R1-14B模型_ollama docompose-CSDN博客

ollama部署deepseek-r1+webUI实践 - 懒懒初阳 - 博客园

Docker环境安装anythingllm_docker安装anythingllm-CSDN博客

相关文章:

  • 算法——Z函数
  • 第1章 Vue设计哲学(深度解析版)
  • 初级渗透测试工程师需要学什么?网络安全零基础入门到精通教程建议收藏!
  • 【尝试使用python调用Seismic unix】
  • 如何通过js选中页面某块区域并复制内容
  • Linux上使用dify构建RAG
  • 超导量子计算机的最新进展:走向实用化的量子革命
  • Flink JobManager不稳定的典型情景
  • NeurIPS-2024 | 具身智能如何理解空间关系?SpatialRGPT:视觉语言模型中的具象空间推理
  • stm32四种方式精密控制步进电机
  • <02.23>Leetcode100
  • 吃一堑长一智
  • 《操作系统 - 清华大学》 8 -5:进程管理:进程生命周期管理
  • LeetCode 热题 100 160. 相交链表
  • 【Linux】线程的其他概念(理论篇)
  • 自然语言处理中的检索增强生成研究综述
  • 【开源项目】分布式文本多语言翻译存储平台
  • Spring Boot 启动类的原理与作用
  • 3D Gaussian Splatting(3DGS)的核心原理
  • 深入理解与实战SQL IFNULL()函数
  • 做网站要/百度搜索推广怎么做
  • 如何打破违法网站/上海有哪些优化网站推广公司
  • 怎么做美瞳网站/无线网络优化工程师
  • 网站关键词太多/中国今日新闻
  • 网站点击排名/全网最好的推广平台
  • 手机网站开发注意/百度搜索风云榜明星