使用Unity Gateway对由Databricks或第三方提供商托管的frontier专有和开放权重模型进行推理。 选择适合你工作负载的模型和处理能力。
通过Databricks提供的模型
Important
Unity Gateway 为 Databricks 托管的模型和第三方提供商托管的模型提供服务。 无论模型托管在哪里,你都有责任遵守供应商适用的使用条款。 请参阅 适用的模型术语。
以下模型由Databricks托管。 每个型号名称都对应其规格。 关于由其提供商托管的模型,请参见 “第三方提供商托管的模型”。
system.ai 中的模型资产会在全局范围内列出。 在那里看到某个模型并不意味着它在您的工作区中可用。 可用性取决于你的工作区区域、跨地理设置和模型可用性。 检查 Unity Gateway 界面对应的模型服务,确认你有权限查询它。
列出模型并不会将客户数据发送给该模型用于推理。 有关区域详情,请参见 按地区划分的模型可用性 。
注释
在 Azure Databricks 上,OpenAI 和 Google Gemini 模型,以及 Zhipu AI GLM 5.3、GLM 5.3 Flash 和 GLM 5.2(遗留版)、Moonshot AI Kimi K3、DeepSeek V4.1 Flash(1017)和 DeepSeek V4.1 Flash,均可通过 Databricks 提供的 ADI 服务获得。 有关这些模型描述,请参见 Databricks Foundation Model API支持的详细模型列表。 关于设置和访问,请参见 ADI服务。
Important
DeepSeek V4.1 Flash将于2026年11月19日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。
Important
Zhipu AI GLM 5.2已被弃用,计划于2027年2月4日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。
Important
OpenAI GPT-5 和 GPT-5 mini 将于 2026 年 12 月 11 日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。
关于已弃用型号及推荐替换型号,请参见 已弃用和退役型号。
第三方提供商托管的模型
以下模型由其提供商托管,而非Databricks,并通过Unity Gateway提供服务。 Azure Databricks 提供访问路径、认证和路由。 供应商运营模型托管环境,供应商的条款规范你对模型的使用。
参见 ADI Services。
| Provider | Model | Hosting |
|---|---|---|
| TypeSafe AI 公司 | TypeSafe AI Jev 1.14.0 | 由提供者托管,通过 Unity Gateway 提供 |
使用模型
| 你的任务 | 如何使用这些模型 |
|---|---|
| 构建应用程序或代理 | 通过 Unity Gateway API 调用模型。 系统提供的模型服务system.ai让你无需创建自定义模型服务即可开始。 参见 查询模型。 |
| 将人工智能应用于你的数据 | 使用 ai_query 通过 SQL、笔记本或批处理管道向受支持的模型发送提示词。 参见 使用 ai_query。 |
| 使用编码代理 | 通过 Unity Gateway 将你的编码代理连接到模型。 请参阅支持的编码和工作智能体。 |
支持的型号和型号标识符因接口而异。 请参阅链接中的指南了解要求和示例。
系统提供的模型服务
Azure Databricks 在system.ai中提供开箱即用、按令牌计费的模型服务,例如system.ai.claude-opus-5。 随着基础模型的出现,会新增服务。
- 系统用户拥有它们,你无法删除它们。
- 默认情况下,只有元存储管理员可以修改它们。 元存储管理员可以通过授予
MANAGE权限来委托管理。
如需限制访问,请参见 “发现并治理对模型服务的访问”。
选择服务容量
| 选项 | 建议用于 | 工作原理 |
|---|---|---|
| 按令牌付费 | 使用量波动或间歇性的工作负载。 | 只需支付你使用的代币费用,而无需配置专用的服务容量。 |
| 按需配置吞吐量 | 需要专用容量,并且能够随着需求变化灵活调整容量的工作负载。 | 按分配容量付费,无需定期承诺。 |
Unity Gateway 模型服务可以路由到已配置吞吐量的目的地。 请参阅每个选项的文档,了解符合条件的模型和设置要求。
对于与 ai_query的批量推理,请使用 AI 函数指南 选择支持的模型和服务选项。 模式和地区支持因服务选项而异。
连接其他模型提供商
你也可以用自己的模型提供商账户使用 Unity Gateway。 连接 模型提供商 ,并利用贵组织的凭证管理访问权限。
请参见连接外部模型提供程序。