0735郴州招聘信息网赣州网站seo
环境：linux
下载ollama
Ollama是一个轻量级的大型语言模型（LLM）软件引擎，用于快速部署和运行大型语言模型。它负责模型的加载和服务器端的推理，确保模型能够快速响应请求。
curl -fsSL https://ollama.com/install.sh | sudo bash
sudo usermod -aG ollama $USER# 添加用户权限
sudo systemctl start ollama # 启动服务
ollama默认只支持localhost访问，如果想要开放外网访问,需要修改/etc/systemd/system/ollama.service，添加环境变量。
如下面的：Environment
/etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434,OLLAMA_ORIGINS=*"
Environment="OLLAMA_ORIGINS=*"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/sbin:/bin:/usr/sbin:/usr/bin:/usr/X11R6/bin:/data/db/mysqldb/bin:/usr/local/bin/python3.10:/root/bin"[Install]
WantedBy=default.target
修改后重启服务：
systemctl daemon-reload
systemctl restart ollama.service
模型下载与加载
访问https://ollama.com/library/deepseek-r1，默认为 7b 模型，如需其他模型，可以在当前页搜索所需模型
由于是云主机，无GPU，所以下载个最小模型，模型下载需要的时间大概在半个小时左右
/usr/local/bin/ollama run deepseek-r1:1.5b
测试服务
下载embed模型
模型名称：nomic-embed-text
/usr/local/bin/ollama pull nomic-embed-text
Dify知识库
为避免运行docker-compose.yaml时各种报错，请确认docker的版本
docker版本要求：
Docker 19.03 or later
Docker Compose 1.28 or later
#下载
git clone https://github.com/langgenius/dify.git
cd dify
cp .env.example .env
拉到镜像并运行，如拉镜像报错，请确保已配置加速源
docker compose pull
docker-compose up -d
Dify默认运行在80端口,首次访问需要初始化设置账号密码
Dify接入大模型
Dify 是基于大语言模型的 AI 应用开发平台，初次使用时你需要先在点击 Dify 平台右上角头像 -》Dify 的 设置-》 模型供应商 页面内添加并配置所需要的模型。
选择 Ollama 基础url配置为：http://10.0.0.72:11434/ ，需要修改为你的实际IP
添加embed模型
至此，可以开始创建应用，在主页选择 全部 -> 创建空白应用 -> 填入应用信息即可
配置私有知识库
主页选择 知识库 -> 创建知识库 -> 上传知识 -> 等待处理完成
知识库索引模式配置与引用embed模型
使用高质量-全文检索，在测试过程中与提供的知识库内容有较高的符合。
配置应用，上下文使用之前添加的知识库
配置完成后，在首页探索-》工作区-》选择之前添加的应用，即可开始使用
分享收集的deepseek文档，清华版的deepseek入门到精通，以及北大版的的文档
清华大学DeepSeek教程第一弹：《DeepSeek： 从入门到精通》
清华大学DeepSeek教程第二弹：《DeepSeek如何赋能职场应用》
清华大学DeepSeek教程第三弹：《普通人如何抓住DeepSeek红利》
清华大学DeepSeek教程第四弹：《DeepSeek+DeepResearch让科研像聊天一样简单》
清华大学DeepSeek教程第五弹：《DeepSeek与AI幻觉》
清华大学DeepSeek教程第六弹：《aigc发现研究3.0》
北大1文档-提示词工程和落地场景
北大2文档-DeepSeek与AIGC应用
北大2文档-DeepSeek-R1类强推理模型开发解读
「deepseek文档合集」
链接：https://pan.quark.cn/s/9b4d3ac0cad3
