当前位置: 首页 > news >正文

本地搭建自己的专属客服之OneApi关联Ollama部署的大模型并创建令牌《下》

这里写目录标题

  • OneApi
    • 1、渠道设置
    • 2、令牌创建
  • 配置文件修改
    • 修改配置文件`docker-compose.yml`
    • 修改`config.json`
    • 到此结束

上文讲了如何本地docker部署fastGtp,相信大家也都已经部署成功了!!!
今天就说说怎么让他们连接在一起 创建你的第一个智能体

还没有部署fastgpt请前去查看部署文档

OneApi

登陆localhost:3001 账号:root 密码:123456

1、渠道设置

在这里插入图片描述
在这里插入图片描述

点击提交,到此渠道就创建好了。可以点击测试进行模型的调用测试。如果返回成功就说明已经打通了

2、令牌创建

  • 点击顶部的令牌菜单

  • 点击添加新的令牌
    在这里插入图片描述

  • 点击复制令牌会得到类似的密钥:sk-7cuK1IhqLNhCJsGd3aFc56DeEaD21aE3Bc0648E39754F705

配置文件修改

修改配置文件docker-compose.yml

把刚才生成的密钥写入docker-compose.yml配置中

在这里插入图片描述

修改config.json

json配置文件主要包含4块llmModelsvectorModelsaudioSpeechModelswhisperModel分别针对不同类型的模型,结合自己情况进行配置即可
在这里插入图片描述

到此结束

  • 重启docker容器
  • 方式1,cd进入到涵盖配置文件的文件夹执行以下命令
# 启动容器
docker-compose up -d

docker ps 检查一下是否全部启动
  • 方式2,利用docker命令只启动fastgptoneapi
docker restart fastgpt

docker restart oneapi

😁 作者:Teddy (公众号:码尚云软件)
ok!到这里就大功告成,小编(Teddy)在这里先感谢大家的到来。
虽然不是太详细,小编已经很努力,给小编来个一键三连(点赞,关注,收藏),小编会越来越努力。。。

http://www.dtcms.com/a/20953.html

相关文章:

  • 【2024】Wavelet Mixture of Experts for Time Series Forecasting
  • 【AI大模型】大模型基础论文全集
  • 【Rust中级教程】1.10. 引用及内部可变性(简单回顾):引用、内部可变性、`Cell`类型及相关操作
  • Cursor 小白入门
  • 轻量级的注意力网络(LANMSFF)模型详解及代码复现
  • springboot与Freemarker
  • DeepSeek专题:以专业角度详细讲讲Deepseek-R1的高质量数据合成过程⌛
  • PyCharm2024使用Python3.12在Debug时,F8步进时如同死机状态
  • Pytorch深度学习教程_3_初识pytorch
  • 美团商家版 验证码 分析
  • 视觉大模型VIT
  • 用Python构建Mad Libs经典文字游戏
  • Jvascript网页设计案例:通过js实现一款密码强度检测,适用于等保测评整改
  • 01:整型数据类型存储空间大小
  • Java语言在微服务架构中的应用研究
  • 大模型驱动的业务自动化
  • 代码随想录 第一章 数组 704.二分查找
  • LangChain大模型应用开发:提示词工程应用与实践
  • PHP 面向对象编程
  • win32汇编环境,对话框中使用月历控件示例一
  • vLLM专题(三)-快速开始
  • 二叉搜索树的实现(C++)
  • SSL 连接
  • 网剧《一念逍遥》正式启动筹备
  • 1. 对比 LVS 负载均衡群集的 NAT 模式和 DR 模式,比较其各自的优势 。2. 基于 openEuler 构建 LVS-DR 群集。
  • DeepSeek 教我 C++ (3) : Optional / Variant 使用的应该注意的细节
  • Java 中的 HashSet 和 HashMap 有什么区别?
  • [操作系统] 基础IO:系统文件I/O
  • 基于springboot的留学服务管理平台的设计与开发(源码+文档)
  • 【deepseek与chatGPT辩论】辩论题: “人工智能是否应当具备自主决策能力?”