当前位置: 首页 > news >正文

生活电子常识-deepseek-r1本地化部署+ui界面搭建

前言

deepseek-r1 14b模型,32b模型部署在本地电脑上也能实现非常好的性能。
因此有兴趣研究了下如何在本地部署。
同时最新流行mauns工作流,他们提供一句话实现网页端任意应用的能力。实际上,你也可以用本地的模型来实现离线的ai工作流功能。
不过这里讲述本地如何首先搭建大模型,一步步来
具体的实现原理,操作步骤如下

原理

1.安装ollama

作用是提供大模型的运行环境,以及提供外部的大模型调用api接口
你没看错,本地部署的大模型也可以提供api接口,这也是后来我们可以使用其他ui界面来访问这个本地大模型的基础
访问https://ollama.com/,下载ollama.exe
在这里插入图片描述
安装后,然后在命令框中查看是否可用,可用如图所示
在这里插入图片描述

2.选择模型下载

如图所见,可以选择qwn32b模型,deepseekr1模型等等
在这里插入图片描述

3.使用命令配置模型,等待下载好即可

在这里插入图片描述
命令敲入cmd框中,模型将会自动下载,等待下载好即可。

4.查看可用模型列表,启动模型

可以根据如图片中命令,查看已经安装的模型名称,然后启动即可
在这里插入图片描述

5.启动模型,对话

ollama run deepseek-r1:14b

6.设置ui界面对话

去chorme扩展商店中搜索page assist插件,安装
在设置中勾选简体中文,即可展示
同时因为ollama为其安装的模型提供了api接口,这个ui插件,也可以访问那些大模型,进行流畅对话
在这里插入图片描述
在这里插入图片描述
同时,也可以为模型构建知识库,让其回答的更加贴合知识库语料
在这里插入图片描述
同时,局域网内,别人访问你的大模型api也可以访问你本地的大模型进行交流
在这里插入图片描述

6.1另外一款ui软件

如图所配置即可,chatbox为模型提供了图片和文档上传功能,更加符合日常使用需求。
在这里插入图片描述

http://www.dtcms.com/a/86260.html

相关文章:

  • 如何在百度搜索上删除与自己名字相关的资料
  • 一文详解Softmax与Sigmoid函数
  • 【MySQL】用户管理
  • 突破传统:探索函数命名的新视角
  • C语言-适配器模式详解与实践
  • Pydantic字段级校验:解锁@validator的12种应用
  • OpenFOAM中snappyHexMesh网格工具如何使用,有哪些使用技巧
  • 拉取镜像,推送到阿里云镜像仓库
  • WX小程序
  • mac丝滑安装Windows操作系统【丝滑简单免费】
  • 微前端qiankun框架的使用
  • 【Linux】信号:信号保存和处理
  • AI比人脑更强,因为被植入思维模型【18】万物系统思维模型
  • 如何通过less在vue2中达到切换皮肤的目的
  • Java实习生面试题(2025.3.23 be)
  • nacos未经授权创建用户漏洞
  • Word限定仅搜索中文或英文引号
  • DFS深搜
  • 算法基础——栈
  • 银河麒麟桌面版包管理器(二)
  • mysql学习-B+树相关问题
  • leetcode 108 将有序数组转换为二叉搜索树
  • HQChart使用教程46-K线图如何对接第3方数据42-DRAWTEXT_LINE数据结构
  • 20届智能车赛规则
  • python环境出现出现 pip: command not found 错误
  • 什么是张量计算
  • 动态规划:从暴力递归到多维优化的算法进化论(C++实现)
  • C++ 关系运算符重载和算术运算符重载的例子,运算符重载必须以operator开头
  • 【golang学习之旅】使用VScode安装配置Go开发环境
  • Linux文件系统知识