AI 运行时是 Azure Databricks 上一款全托管、无服务器的 GPU 计算产品,用于训练、微调及其他深度学习工作负载。 它适合机器学习工程师和数据科学家,他们希望无需预配集群即可使用 GPU。 关于经典的Databricks Runtime ML计算,请参见Databricks Runtime for 机器学习。
- 无服务器 GPU:按需提供 A10 和 H100,可通过 Databricks CLI、笔记本、作业和 Ray 访问。
- 托管环境:预建环境和数据加载器,准备用于训练和微调,或自带 Docker 容器。
- 内置可观测性:通过 MLflow、日志记录和调试智能体进行实验跟踪。
- 编排:调度你的GPU工作负载,并将其用于CI/CD流水线。
开始
了解 AI Runtime,并运行你的第一个工作负载。
| 开始 | Description |
|---|---|
| 🚀 快速入门 | 通过终端在 AI Runtime 上运行你的第一个工作负载。 |
| 🧭 概述 | 了解AI运行时的关键内容:有哪些GPU可用,它是如何工作的,以及局限性。 |
| 💡 示例 | 浏览笔记本教程和按任务整理的可运行 Databricks CLI 示例。 |
连接到 GPU
通过Databricks的CLI、笔记本、作业或Ray访问GPU。
| 功能 | Description |
|---|---|
| Databricks CLI | 用 YAML 作业配置从笔记本提交和管理分布式 GPU 训练任务。 |
| Notebooks | 将笔记本连接到 AI 运行时,进行交互式开发,无需集群设置。 |
| 作业 | 将 AI Runtime 上的笔记本设为定期作业。 |
| 射线 | 在AI运行时运行Ray Core、Ray Data、Ray Train和Ray Tune。 |
管理环境
可以在托管环境或自己的Docker镜像中运行工作负载。
| 功能 | Description |
|---|---|
| 预建环境 | 从最简标准环境或预装机器学习框架的Databricks AI环境开始。 |
| 自定义 Docker 镜像 | 当工作负载需要自定义系统库或依赖时,带上你自己的Docker镜像。 |
开发工作负载
高效加载数据,并用编码智能体开发工作负载。
| 功能 | Description |
|---|---|
| 将数据加载到 GPU | 通过专为高 GPU 利用率打造的容错加载器,从 Unity Catalog 卷中流式传输数据。 |
| 编程代理 | 使用Genie Code和 databricks-ai-runtime 代理技能来创建、提交和管理GPU工作负载。 |
监控、调试和部署
跟踪实验,检查日志,诊断故障,并安排生产工作负载。
| 功能 | Description |
|---|---|
| 用于调试的 MLflow | 使用 MLflow 跟踪试验、指标和运行。 |
| 查看日志 | 查看训练输出,监控代码运行时的GPU资源使用,并用Genie Code调试。 |
| 调度工作负载 | 部署带有声明式自动化捆绑包的培训代码,安排运行,构建多任务GPU和CPU工作流。 |
| 部署已训练的模型 | 记录、注册并将通过 AI 运行时训练的模型部署到在 CPU 或 GPU 计算资源上运行的 Model Serving 端点。 |
Guides
探索 AI 运行时的迁移指南、教程和技术资源。
| Resource | Description |
|---|---|
| 为什么要使用 AI 运行时 | 比较 AI Runtime 与经典计算和 Databricks Runtime ML 的成本、开发者体验和规模。 |
| 迁移经典GPU工作负载 | 将现有的深度学习工作负载从经典的 Azure Databricks 集群迁移到 AI 运行时。 |
| 优化你的工作负载性能 | 提高培训吞吐量,使长期运行的作业更具抗故障能力。 |