当前位置: 首页 > news >正文

使用Ollama+open-webui搭建本地AI模型

本地搭建AI模型

  • 说明:
  • 1、下载Ollama
  • 2、下载模型
  • 3、pip安装open-webui(不推荐)
    • 1、Python版本不对应
    • 2、下载wheels失败
  • 4、docker安装open-webui

说明:

在windows上搭建本地AI,使用Ollama+open-webui的方式,可以直接在网页上访问
参考连接:
Ollama的github地址: https://github.com/ollama/ollama
Ollama官网地址: https://ollama.com/
open-webui地址: https://github.com/open-webui/open-webui
AI模型: https://ollama.com/library/
python仓库 https://pypi.org/
docker官网下载:https://www.docker.com/

1、下载Ollama

github地址: https://github.com/ollama/ollama
官网地址: https://ollama.com/
在这里插入图片描述
双击运行安装
在这里插入图片描述
打开http://localhost:11434/查看运行状态
在这里插入图片描述

2、下载模型

查看可下载的模型: https://ollama.com/library/
在这里插入图片描述
点击进入后,复制命令行
在这里插入图片描述
打开电脑的命令行工具,输入命令下载模型

win+r
cmd
输入命令行:例ollama run deepseek-r1

在这里插入图片描述

3、pip安装open-webui(不推荐)

地址: https://github.com/open-webui/open-webui
在这里插入图片描述可以直接使用电脑上的pip安装

pip install open-webui

在这里插入图片描述

1、Python版本不对应

在这里插入图片描述
需要3.11以上版本的python
进入官网下载:https://www.python.org/ftp/python/3.12.0/
选择对应版本下载并双击安装
在这里插入图片描述
设置环境变量
在这里插入图片描述
验证配置成功,再次下载–》成功
在这里插入图片描述
在这里插入图片描述

2、下载wheels失败

可以通过手动下载的方式,再用pip install安装。找到下载的wheels,点击下载
链接: https://www.cgohlke.com/
或者在 https://pypi.org/里搜索后下载
在这里插入图片描述

执行安装

pip install 下载的地址\pandas-2.2.3-cp312-cp312-win_amd64.whl

在这里插入图片描述

4、docker安装open-webui

官网下载docker:https://www.docker.com/
在这里插入图片描述
安装运行后,直接搜索open-webui,pull拉取镜像
在这里插入图片描述

#在命令行工具中输入命令,查看镜像
docker images

在这里插入图片描述

#运行镜像
docker run -d -p 8088:8080 --name webui --restart always dyrnq/open-webui:git-9e726a3

访问http://127.0.0.1:8088/
在这里插入图片描述
点击Sign up注册账号,登录后就可以使用啦
在这里插入图片描述

相关文章:

  • 写实交互数字人:赋能消防知识科普,点亮智能交互讲解新未来
  • word表格批量转excel,提取表格数据到excel
  • SpringBoot+Junit在IDEA中实现查询数据库的单元测试
  • ⭐ Unity 实现屏幕涟漪效果:自动生成 \ 点击交互生成涟漪
  • 基于OpenCV和深度学习实现图像风格迁移
  • 分布式光纤测温及红外测温系统的区别?
  • 68、.NET Entity Framework(EF)
  • 每日Prompt:宫崎骏风格插画
  • YOLOv2 技术详解:目标检测的又一次飞跃
  • 大模型Prompt|提示工程的10个常见设计模式
  • 【数据传输常用命令】:docker常用命令
  • 1.ES介绍
  • Three.js搭建小米SU7三维汽车实战(4)场景搭建
  • Eureka 服务注册与发现原理和使用
  • 常见的几种排序算法
  • 预训练CNN网络的迁移学习(MATLAB例)
  • webgl工程发布问题解决记录
  • 【在线五子棋对战】五、前端扫盲:html css javascript ajax jquery websocket
  • LeetCode 3423.循环数组中相邻元素的最大差值:遍历(模拟)
  • 基于GeoTools的道路相交多个点容差冗余计算实战
  • 淘宝关键词搜索工具/百度优化排名
  • 网站如何备案icp备案/国内免费建网站
  • 小学网站建设方案书/百度的广告推广需要多少费用
  • 蓝色为主的网站案例/推广文章的步骤
  • 中小学生在线做试卷的网站6/app推广接单
  • 张槎网站设计/模板网站建站哪家好