当前位置： 首页 > news >正文

【OneAI】使用Rust构建的轻量AI网关

news 2025/8/21 13:07:51

LLM网关

  • 统一大模型API入口，使用一个令牌调用多家模型，无需切换API Key
  • 兼容OpenAI输入输出规范
  • 内置10+提供商和50+模型，开箱即用
  • 支持自动负载、限流、IP限制、Token用量限制等功能
  • 支持钉钉、飞书、企微消息预警
  • 支持对不同提供商设置代理
  • 支持主流系统部署，如Windows、Ubuntu、macOS、CentOS，以及部分边缘设备。

体验地址：https://oneai.coderbox.cn

在这里插入图片描述

在这里插入图片描述

http://www.dtcms.com/a/341581.html

相关文章：

  • linux环境问题
  • HyperMesh许可证分配优化策略
  • 【Ansible】变量、机密、事实
  • 福昕PDF编辑软件高级版下载与详细图文安装教程！！
  • Pub/Sub是什么意思
  • LWIP的Socket API 与实现关系
  • c#入门笔记（3）
  • 图像数据增强的高效执行
  • Linux下运行Jmeter压测
  • Kafka如何保证「消息不丢失」，「顺序传输」，「不重复消费」，以及为什么会发生重平衡（reblanace）
  • 攻克PostgreSQL专家认证
  • Git Commit 提交信息标准格式
  • Python打卡Day47 注意力热图可视化
  • 字符设备驱动、块设备驱动和网络设备驱动
  • Gitee仓库 日常操作详细步骤
  • Linux服务器性能优化总结
  • 【数据结构】快速排序算法精髓解析
  • shell脚本——搜索某个目录下带指定前缀的文件
  • 50.Seata-AT模式
  • Cyberduck (FTP和SFTP工具) v9.2.3.43590
  • 189.轮转数组
  • 设计模式的一些笔记
  • list集合可以一边遍历一遍修改元素吗？
  • Rust 入门 包 (二十一)
  • 计算机网络基础复习
  • 【数据分享】295个地级市互联网用户、邮电业务数据（2001-2022）
  • win10安装最新docker 4.44.2版图文教程（2025版）
  • 3.Shell脚本修炼手册之---Shell 变量基础知识
  • Android动画小补充
  • 【Obsidian插件】HiNote