NVIDIA 于 10 月 13 日宣布,将完整的 NVIDIA Run:ai 平台以开源软件形式发布,作为 NVIDIA DSX AI Factory 平台的一部分,为客户、开发者和生态伙伴提供生产级的 AI 工作负载与 GPU 编排能力。该平台此前用于帮助组织在 Kubernetes 上大规模运行 AI 工作负载,动态分配 GPU 资源并管理从数据处理、训练到推理的全生命周期。
此次开源发布包含四个可独立采用的模块:KAI Scheduler、GPU Fractioning Operator、KAI Resource Management 和 Workload Map,它们与其余平台代码共同构成完整的 Run:ai 平台。完整源代码已发布在 NVIDIA DSX AI Factory 的 GitHub 组织下的 Run:ai 仓库中,同时以 Community Product 形式上线 NVIDIA NGC,并提供用于安装集成栈的 Helm chart。
开源发布内容
此次发布将完整的 NVIDIA Run:ai 平台以开源软件形式公开,作为 NVIDIA DSX AI Factory 平台的一部分,为客户、开发者和生态伙伴提供生产级的 AI 工作负载与 GPU 编排能力。NVIDIA 表示,这一发布把 Run:ai 确立为开放基础,使更广泛的生态能够更快推出差异化解决方案,以回应不断变化的客户需求。
过去几年间,Run:ai 帮助组织在 Kubernetes 上大规模运行 AI 工作负载,动态分配 GPU 资源,并管理从数据处理、训练到推理的全生命周期。开源之后,NVIDIA DSX 生态伙伴和 AI 云可以借此提升工作负载吞吐量、改善 GPU 利用率,并更高效地运营共享 AI 基础设施。
四个模块
开源发布包含四个可独立采用的模块:KAI Scheduler 用于 GPU 感知的 Kubernetes 调度;GPU Fractioning Operator 用于 CUDA 原生的 GPU 共享;KAI Resource Management 用于组织级配额与层级管理;Workload Map 用于提供一致的工作负载管理契约。这些模块与其余平台代码共同构成完整的 Run:ai 平台。
平台团队和生态伙伴可以选择把 Run:ai 作为整体采用,在其之上构建自己的产品与服务,也可以根据自身需求只集成其中某个组件。此外,相关开源项目 Model Streamer 和 Grove 对平台形成补充,分别用于加速模型加载和编排多组件推理工作负载。
生态伙伴集成
已有八家 NVIDIA DSX 生态伙伴将这一开源平台集成进各自产品,包括 Crusoe、Mirantis、Nebius、OpenNebula Systems、Rafay、Saturn Cloud、Spectro Cloud 和 vCluster。NVIDIA 称,开源使伙伴能够直接获取 AI 工作负载与 GPU 编排方面的创新,从而更快推向市场。
各伙伴的集成方式有所不同。Crusoe 将其与 Crusoe Managed Kubernetes 结合,把 GPU 工作负载编排与托管 Kubernetes 及 GPU 基础设施整合;Mirantis 用它扩展 k0rdent AI,提供从金属到模型的、生命周期管理的 AI 工厂栈,自动完成基础设施配置并提升 GPU 利用率;Nebius 在 Nebius AI Cloud 中以一键应用部署的形式提供该平台,让客户在 Nebius Managed Service for Kubernetes 上部署和运营完整平台。
OpenNebula Systems 通过 OneKS 将其与 OpenNebula AI Cloud Platform 集成,把 GPU 工作负载编排与基础设施配置、生命周期管理结合,面向开放和主权 AI 云;Rafay 扩展其集成,将其作为完全托管服务交付,自动化从 GPU 基础设施、集群到 Run:ai 控制平面与租户的整个栈,使 AI 云提供商和企业可通过自助服务目录提供该服务;Saturn Cloud 也进行了相应集成。
获取与许可
完整源代码已发布在 NVIDIA DSX AI Factory 的 GitHub 组织下的 Run:ai 仓库中,团队可以查看代码、参与开发、在平台之上构建,或独立采用其模块化组件。完整开源平台同时以 Community Product 形式上线 NVIDIA NGC,并提供用于安装集成栈的 Helm chart。
NVIDIA 说明,Run:ai 源代码受其适用的开源许可证约束;从 NGC 下载 Community Product 需要接受适用的 NVIDIA 软件许可协议以及 NVIDIA AI 产品的产品特定条款。Community Product 不要求付费的 Run:ai 订阅或 NVIDIA 支持权益,也不包含 NVIDIA 企业级支持。
要点
- NVIDIA 将完整 Run:ai 平台开源
- 发布含四个可独立采用的模块
- 源代码托管于 NVIDIA DSX AI Factory 的 GitHub 组织
- NGC 上以 Community Product 形式提供
- 八家 DSX 生态伙伴已宣布集成

正在读取登录状态…
暂无讨论,说说你的看法吧