当前位置: 首页 > news >正文

linux系统下openwebui重启并使用本地模型(vllm或其他)

openwebui使用ollama模型很方便,但ollama有漏洞,所以我使用了本地部署的vllm模型。

首先是关掉openwebui,查看系统8080端口占用进程的pid

lsof -i : 8080

kill -9 pid

启动vllm模型后

打开openwebui的界面,选择外部链接

url要写到v1,他默认会加上/chat/completions,模型名称写model name点击加号,然后保存就可以了,查看模型里的模型是否添加上

相关文章:

  • 江科大51单片机笔记【10】蜂鸣器播放提示器音乐(下)
  • 【无标题】四色拓扑模型与宇宙历史重构的猜想框架
  • 第4章 Function 语意学1: Member的各种调用方式
  • nginx配置反向代理服务器,实现在https网站中请求http资源
  • Redis数据结构,渐进式遍历,数据库管理
  • Ubuntu20.04本地配置IsaacGym Preview 4的G1训练环境(二):训练与推理
  • [Java基础-线程篇]7_线程设计模式与总结
  • MCU-SDRAM-W9825G6KH的存储单元
  • Vue 文件下载功能的跨域处理与前后端实现详解
  • python: DDD using postgeSQL and SQL Server
  • 【STM32】STM32系列产品以及新手入门的STM32F103
  • 深度学习PyTorch之13种模型精度评估公式及调用方法
  • 头歌作业-数据库实验一:数据库和数据表的建立,修改和删除
  • 大模型——使用 Embedding 模型和向量数据库的 Spring AI RAG
  • Linux下磁盘读写流
  • 《几何原本》命题I.12
  • API和SDK
  • 护照阅读器在汽车客运站流程中的应用
  • Excel表格打印 第二页边框隔断
  • 在Spring Boot + MyBatis中优雅处理多表数据清洗:基于XML的配置化方案
  • 宁波建设网站哪家好/亿驱动力竞价托管
  • 百度网站推广网络/推广普通话的宣传语
  • 住房城乡建设委 房管局 官方网站/百度公司官网招聘
  • 建筑网校有哪些/如何优化关键词
  • dw网页制作素材免费/文大侠seo
  • 男女宾馆做爰视频网站/友情链接代码模板