【机器学习】工具入门:飞牛启动Dify Ollama Deepseek
很久没有更新文章了,最近正好需要研究一些机器学习的东西,打算研究一下
- dify
- Ollama
以下是基于FN 的dify本地化部署,当然这也可能是全网唯一的飞牛部署dify手册
部署
官方手册:https://docs.dify.ai/en/getting-started/install-self-hosted/docker-compose
采用docker-compose方式部署
- 确保FN启动22端口(系统设置-SSH-右侧蓝色开启)
- 根据官方网站https://docs.dify.ai/en/getting-started/install-self-hosted/docker-compose,docker compose up -d 启动容器,新手遇到权限不足的报错,记得在docker 前加sudo
- 根据doc访问,http://localhost/install
Tips:FN会默认占用80 443,在开始前可以(系统设置-安全性-端口设置-高级设置中取消80 443的重定向)
-
FN 应用商店 Ollama下载
-
dify 设置 模型供应商添加Ollama,模型类型LLM, 模型名称:DeepSeek-R1-Distill-Qwen-1.5B(Ollma 设置-模型),基础URL http://192.168.xx.xx:11435(切记不要使用127与localhost)
-
开始使用
Tips:有一些其他途径(如SSH部署或者docker部署,这里有一些连接问题的r&q https://docs.dify.ai/en/development/models-integration/ollama#faq
默认deepseek的模型还是太大了,换了阿里的qwen:0.5b