Ollama本地部署DeepSeek+构建个人知识库笔记
一、本地部署DeepSeek
大体步骤:下载Ollama,通过Ollama将DeepSeek模型下载到本地运行;
1.官网直接下载Ollama
2.修改Ollama的安装位置(可选)
Ollama默认安装是在c盘,如果想安装在其他盘按如下步骤:
①首先在你想安装的路径下创建好一个新文件夹,,并把Ollama的安装包放在里面,
比如我的是:E:\MySoftware\Ollama
②在文件路径上输入CMD回车后会自动打开命令窗口
然后输入OllamaSetup.exe /DlR=E:\MySoftware\Ollama
语法:软件名称 /DIR=这里放你上面创建好的Olama指定目录
然后Ollama就会进入安装,点击install后,可以看到Ollama的安装路径就变成了我们指定的目录
了。
3.设置环境变量(设置好了之后需要重启电脑)
桌面右键我的电脑→属性→高级系统设置→环境变量
新建两个用户变量
第一个是:让ollama可见监听所有ip访问
变量名:OLLAMA_HOST
变量值:0.0.0.0:11434
第二个是:模型的存放位置
变量名:OLLAMA_MODELS
变量值:自行设置
设置完环境变量点击确认关闭高级系统设置之后重启电脑。
4.下载DeepSeek模型
直接在官网直接下载Ollama
选择一个适合自己大小模型,可以先从1.5b开始尝试
然后打开命令行窗口,直接粘贴之前复制的一行命令即可开始下载。
下载完成后会显示Send a message表示模型运行成功。到此本地部署DeepSeek完成。
常用指令:
检查本地部署的大模型:ollama list
运行指定的大模型:ollama run+模型名称
例如:ollama run deepseek-r1:7b
二、构建个人知识库
要构建个人知识库需要量化工具+数据库
这里的量化工具选择nomic-embed-text:是一个文本嵌入工具,通常用于将文本数据转化为向量(数字表示)。目的是将原本难以处理的文本数据转换为机器能够理解和处理的格式,以便进行更复杂的分析和操作。
1.在Ollama官网搜索nomic-embed-text,然后复制指令在命令行窗口下载
点击进入
同上面下载模型一样。下载完成如下:
2.安装Page Assist插件
使用edge浏览器搜索Page Assist
点击进入选择谷歌商店
点击get添加到扩展,因为我已经添加过了,所以显示remove
添加完成会在上方显示一个消息的图标
如果没有就打开扩展将其显示出来
第一次开打界面如下:
可以点击设置修改语言为中文
GAR设置:选择之前下载的nomic-embed-text,点击下面的保存
3.构建个人知识库
管理知识页面点击添加新知识
上传文件后点击提交,等待解析完成
解析完成下过如下:
4.测试个人知识库
点击新聊天然后选择一个合适的模型
在下方选择点击知识按钮选择一个知识库
这里显示了对应的知识库则表示选择成功
5.测试
它回答的结果是根据知识库的并给出了对应的引用。