当前位置: 首页 > wzjs >正文

潍坊企业网站建设免费搭建网站的软件

潍坊企业网站建设,免费搭建网站的软件,电动车网站模板,wordpress 按钮链接环境:linux 下载ollama Ollama是一个轻量级的大型语言模型(LLM)软件引擎,用于快速部署和运行大型语言模型。它负责模型的加载和服务器端的推理,确保模型能够快速响应请求。 curl -fsSL https://ollama.com/install.…

环境:linux

下载ollama

Ollama是一个轻量级的大型语言模型(LLM)软件引擎,用于快速部署和运行大型语言模型。它负责模型的加载和服务器端的推理,确保模型能够快速响应请求。

curl -fsSL https://ollama.com/install.sh | sudo bash
sudo usermod -aG ollama $USER# 添加用户权限
sudo systemctl start ollama    # 启动服务

ollama默认只支持localhost访问,如果想要开放外网访问,需要修改/etc/systemd/system/ollama.service,添加环境变量。
如下面的:Environment

/etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434,OLLAMA_ORIGINS=*"
Environment="OLLAMA_ORIGINS=*"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/sbin:/bin:/usr/sbin:/usr/bin:/usr/X11R6/bin:/data/db/mysqldb/bin:/usr/local/bin/python3.10:/root/bin"[Install]
WantedBy=default.target

修改后重启服务:

systemctl daemon-reload
systemctl restart ollama.service

在这里插入图片描述

模型下载与加载

访问https://ollama.com/library/deepseek-r1,默认为 7b 模型,如需其他模型,可以在当前页搜索所需模型
由于是云主机,无GPU,所以下载个最小模型,模型下载需要的时间大概在半个小时左右

/usr/local/bin/ollama run deepseek-r1:1.5b

测试服务
在这里插入图片描述
在这里插入图片描述

下载embed模型

模型名称:nomic-embed-text
/usr/local/bin/ollama pull nomic-embed-text

Dify知识库

为避免运行docker-compose.yaml时各种报错,请确认docker的版本
docker版本要求:
Docker 19.03 or later
Docker Compose 1.28 or later
#下载
git clone https://github.com/langgenius/dify.git
cd dify
cp .env.example .env
拉到镜像并运行,如拉镜像报错,请确保已配置加速源
docker compose pull
docker-compose up -d

Dify默认运行在80端口,首次访问需要初始化设置账号密码
在这里插入图片描述

Dify接入大模型

Dify 是基于大语言模型的 AI 应用开发平台,初次使用时你需要先在点击 Dify 平台右上角头像 -》Dify 的 设置-》 模型供应商 页面内添加并配置所需要的模型。
在这里插入图片描述

选择 Ollama 基础url配置为:http://10.0.0.72:11434/ ,需要修改为你的实际IP

在这里插入图片描述

添加embed模型

在这里插入图片描述

至此,可以开始创建应用,在主页选择 全部 -> 创建空白应用 -> 填入应用信息即可

在这里插入图片描述

配置私有知识库

主页选择 知识库 -> 创建知识库 -> 上传知识 -> 等待处理完成

在这里插入图片描述

知识库索引模式配置与引用embed模型

在这里插入图片描述
使用高质量-全文检索,在测试过程中与提供的知识库内容有较高的符合。

配置应用,上下文使用之前添加的知识库

在这里插入图片描述
在这里插入图片描述
配置完成后,在首页探索-》工作区-》选择之前添加的应用,即可开始使用
在这里插入图片描述

在这里插入图片描述

分享收集的deepseek文档,清华版的deepseek入门到精通,以及北大版的的文档

清华大学DeepSeek教程第一弹:《DeepSeek: 从入门到精通》
清华大学DeepSeek教程第二弹:《DeepSeek如何赋能职场应用》
清华大学DeepSeek教程第三弹:《普通人如何抓住DeepSeek红利》
清华大学DeepSeek教程第四弹:《DeepSeek+DeepResearch让科研像聊天一样简单》
清华大学DeepSeek教程第五弹:《DeepSeek与AI幻觉》
清华大学DeepSeek教程第六弹:《aigc发现研究3.0》
北大1文档-提示词工程和落地场景
北大2文档-DeepSeek与AIGC应用
北大2文档-DeepSeek-R1类强推理模型开发解读

「deepseek文档合集」
链接:https://pan.quark.cn/s/9b4d3ac0cad3

在这里插入图片描述
在这里插入图片描述

http://www.dtcms.com/wzjs/385266.html

相关文章:

  • 微信网站建设报价短视频营销的特点
  • 网站建设内容是经营项目吗柳州今日头条新闻
  • 做网站实现自动生成pdfseochan是什么意思
  • 网站建设上机考试题目建设网站制作公司
  • 网站开发的工作流程免费引流推广方法
  • 哪个行业最喜欢做网站seo怎么优化网站排名
  • 晋城网站建设开发百度网盘帐号登录入口
  • 南京百度网站建设竞价培训课程
  • 定制开发电商网站建设多少钱北京seo如何排名
  • wordpress php 采集seo技术经理
  • 南京 网站备案免费永久个人域名注册
  • 乐清建网站哪家好上海seo公司哪个靠谱
  • 腾讯云建设网站百度链接提交
  • 网站模板下载湖南岚鸿网站成都网站建设seo
  • 常用开发工具seo排名快速
  • 昆明驿站网站建设软文外链购买平台
  • 投资理财网站开发如何进行搜索引擎优化 简答案
  • 做网站需完成的软件重庆网页优化seo
  • 帮我注册一个账号免费seo视频教程
  • 建设干部学校网站首页国外免费建站网站
  • 网络网站制作快速seo关键词优化方案
  • dz网站标题网站链接提交收录
  • 杭州网站推广宣传seo入门版
  • 用什么开发手机网站百度推广四川成都地区服务中心
  • 蒙文网站开发seo学校培训班
  • 外贸独立网站设计关键词快速排名平台
  • wap网站是什么意思啊在线seo工具
  • 做网站包括图片设计吗计算机培训短期速成班
  • 网站建设环境搭建心得体会优化网站标题名词解释
  • 网站登录和权限怎么做网站优化推广方法