当前位置: 首页 > news >正文

dstack 是 Kubernetes 和 Slurm 的开源替代方案,旨在简化 ML 团队跨顶级云、本地集群和加速器的 GPU 分配和 AI 工作负载编排

一、软件介绍

文末提供程序和源码下载

      dstack 是 Kubernetes 和 Slurm 的开源替代方案,旨在简化顶级云和本地集群中 ML 团队的 GPU 分配和 AI 工作负载编排。

二、Accelerators 加速器

dstack 支持 NVIDIA 开箱即用的 、 AMD 、 Google TPU 和 Intel Gaudi 加速器。

三、Installation 安装

在通过 CLI 或 API 使用 dstack 之前,请设置一个 dstack 服务器。如果您已经有一个正在运行的 dstack 服务器,则只需设置 CLI。

Set up the server 设置服务器

(可选)配置后端

要与云提供商一起使用 dstack ,请通过该文件 ~/.dstack/server/config.yml 配置后端。

Start the server 启动服务器
You can install the server on Linux, macOS, and Windows (via WSL 2). It requires Git and OpenSSH.
您可以在 Linux、macOS 和 Windows 上安装服务器(通过 WSL 2)。它需要 Git 和 OpenSSH。

pip 果仁
$ pip install "dstack[all]" -U
uv
$ uv tool install "dstack[all]" -U
Once it's installed, go ahead and start the server.
安装后,继续启动服务器。

$ dstack server
Applying ~/.dstack/server/config.yml...

The admin token is "bbae0f28-d3dd-4820-bf61-8f4bb40815da"
The server is running at http://127.0.0.1:3000/
For more details on server configuration options, see the Server deployment guide.
有关 Server 配置选项的更多详细信息,请参阅 Server 部署指南。

Set up the CLI 设置 CLI
Once the server is up, you can access it via the dstack CLI.
服务器启动后,您可以通过 dstack CLI 访问它。

The CLI can be installed on Linux, macOS, and Windows. It requires Git and OpenSSH.
CLI 可以安装在 Linux、macOS 和 Windows 上。它需要 Git 和 OpenSSH。

pip 果仁
$ pip install dstack -U
uv
$ uv tool install dstack -U
To point the CLI to the dstack server, configure it with the server address, user token, and project name:
要将 CLI 指向服务器, dstack 请使用服务器地址、用户令牌和项目名称对其进行配置:

$ dstack config \
    --url http://127.0.0.1:3000 \
    --project main \
    --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
    
Configuration is updated at ~/.dstack/config.yml

四、How does it work? 它是如何工作的?

1. Define configurations 1. 定义配置
dstack 支持以下配置:

  • 开发环境 — 用于使用桌面 IDE 进行交互式开发
  • 任务 — 用于调度作业(包括分布式作业)或运行 Web 应用程序
  • 服务 — 用于部署模型和 Web 应用程序(具有自动扩展和授权功能)
  • 队列 — 用于管理云和本地集群
  • Volumes — 用于管理持久化卷
  • 网关 — 用于配置入口流量和公共终端节点

配置可以定义为存储库中的 YAML 文件。

2. Apply configurations 2. 应用配置
通过 dstack apply CLI 命令或编程 API 应用配置。

dstack 跨云和本地集群自动管理预置、作业队列、自动扩展、联网、卷、运行故障、容量不足错误、端口转发等。

五、软件下载

夸克网盘分享

本文信息来源于GitHub作者地址:https://github.com/dstackai/dstack

相关文章:

  • Linux常用命令29——delgroup删除组
  • AI Agent开发第48课-DIFY中利用AI动态判断下一步流程-DIFY调用API、REDIS、LLM
  • 卷积神经网络进化史:从LeNet-5到现代架构的完整发展脉络
  • langfuse本地安装
  • SCAU18124--N皇后问题
  • 使用xlwings将excel表中将无规律的文本型数字批量转化成真正的数字
  • C++ 循环语句`while`、`for` 与 `do…while`(六十七)
  • C# 操作符
  • 多协议 Tracker 系统架构与传感融合实战 第五章 卡尔曼滤波定位算法实战
  • 计算机网络八股文--day4 --传输层TCP与UDP
  • k8s 探针
  • TFT(薄膜晶体管)和LCD(液晶显示器)区别
  • Socket 编程 UDP
  • 基于LangChain 实现 Advanced RAG-后检索优化(下)-上下文压缩与过滤
  • 基于Springboot高校网上缴费综合务系统【附源码】
  • SpringSecurity配置(权限认证)
  • redis延时队列详细介绍
  • 计算机基础:二进制基础17,八进制减法
  • 第 13 届蓝桥杯 C++ 青少组省赛中 / 高级组 2022 年真题(编程第一题)
  • 360驱动大师v2.0(含网卡版)驱动工具软件下载及安装教程
  • 央行:上市公司回购增持股票自有资金比例要求从30%下调至10%
  • 默茨在第二轮投票中当选德国总理
  • “五一”假期银联、网联共处理支付交易234.39亿笔
  • 郑州一街道被指摊贩混乱经营,12345热线:已整治并加强巡查
  • 晋城一男子实名举报村支书打伤其67岁父亲,镇政府:案件正在侦办中
  • 巴菲特首次明确批评贸易战,“投资界春晚”有哪些看点?一文速览