【deepseek第一课】从0到1介绍 采用ollama安装deepseek私有化部署,并实现页面可视化
【deepseek第一课】从0到1介绍 采用ollama安装deepseek私有化部署,并实现页面可视化
- 1. ollama安装
-
- 1.1 linux安装
- 1.2 windows安装
- 2. deepSeek支持的7种蒸馏模型
-
- 2.1 蒸馏模型介绍
- 2.2 7种模型特点
- 2.3 安装deepseek-r1:14b模型
- 3. openwebui图形化页面安装
- 4. java连接大模型的三种方式
- 5.注意事项
1. ollama安装
ollama的定义:相当于管理大模型的docker
https://ollama.com/download/linux
按照官网指引,安装
1.1 linux安装
curl -fsSL https://ollama.com/install.sh | sh
bashrc末尾修改,变更模型目录,防止系统盘满,改到大的非系统盘:
export OLLAMA_MODELS=/home/ollama/models
[root@node1 ~]# ollama --version
ollama version is 0.5.12
Redirecting to /bin/systemctl status ollama.service
● ollama.service - Ollama Service
Loaded: loaded (/etc/systemd/system/ollama.service; enabled; vendor preset: disabled