AI 运行时

AI 运行时是 Azure Databricks 上一款全托管、无服务器的 GPU 计算产品,用于训练、微调及其他深度学习工作负载。 它适合机器学习工程师和数据科学家,他们希望无需预配集群即可使用 GPU。 关于经典的Databricks Runtime ML计算,请参见Databricks Runtime for 机器学习。

  • 无服务器 GPU:按需提供 A10 和 H100,可通过 Databricks CLI、笔记本、作业和 Ray 访问。
  • 托管环境:预建环境和数据加载器,准备用于训练和微调,或自带 Docker 容器。
  • 内置可观测性:通过 MLflow、日志记录和调试智能体进行实验跟踪。
  • 编排:调度你的GPU工作负载,并将其用于CI/CD流水线。

开始

了解 AI Runtime,并运行你的第一个工作负载。

开始 Description
🚀 快速入门 通过终端在 AI Runtime 上运行你的第一个工作负载。
🧭 概述 了解AI运行时的关键内容:有哪些GPU可用,它是如何工作的,以及局限性。
💡 示例 浏览笔记本教程和按任务整理的可运行 Databricks CLI 示例。

连接到 GPU

通过Databricks的CLI、笔记本、作业或Ray访问GPU。

功能 Description
Databricks CLI 用 YAML 作业配置从笔记本提交和管理分布式 GPU 训练任务。
Notebooks 将笔记本连接到 AI 运行时,进行交互式开发,无需集群设置。
作业 将 AI Runtime 上的笔记本设为定期作业。
射线 在AI运行时运行Ray Core、Ray Data、Ray Train和Ray Tune。

管理环境

可以在托管环境或自己的Docker镜像中运行工作负载。

功能 Description
预建环境 从最简标准环境或预装机器学习框架的Databricks AI环境开始。
自定义 Docker 镜像 当工作负载需要自定义系统库或依赖时,带上你自己的Docker镜像。

开发工作负载

高效加载数据,并用编码智能体开发工作负载。

功能 Description
将数据加载到 GPU 通过专为高 GPU 利用率打造的容错加载器,从 Unity Catalog 卷中流式传输数据。
编程代理 使用Genie Code和 databricks-ai-runtime 代理技能来创建、提交和管理GPU工作负载。

监控、调试和部署

跟踪实验,检查日志,诊断故障,并安排生产工作负载。

功能 Description
用于调试的 MLflow 使用 MLflow 跟踪试验、指标和运行。
查看日志 查看训练输出,监控代码运行时的GPU资源使用,并用Genie Code调试。
调度工作负载 部署带有声明式自动化捆绑包的培训代码,安排运行,构建多任务GPU和CPU工作流。
部署已训练的模型 记录、注册并将通过 AI 运行时训练的模型部署到在 CPU 或 GPU 计算资源上运行的 Model Serving 端点。

Guides

探索 AI 运行时的迁移指南、教程和技术资源。

Resource Description
为什么要使用 AI 运行时 比较 AI Runtime 与经典计算和 Databricks Runtime ML 的成本、开发者体验和规模。
迁移经典GPU工作负载 将现有的深度学习工作负载从经典的 Azure Databricks 集群迁移到 AI 运行时。
优化你的工作负载性能 提高培训吞吐量,使长期运行的作业更具抗故障能力。