Databricks 托管推理

使用Unity Gateway对由Databricks或第三方提供商托管的frontier专有和开放权重模型进行推理。 选择适合你工作负载的模型和处理能力。

开始查询模型。

通过Databricks提供的模型

Important

Unity Gateway 为 Databricks 托管的模型和第三方提供商托管的模型提供服务。 无论模型托管在哪里,你都有责任遵守供应商适用的使用条款。 请参阅 适用的模型术语。

以下模型由Databricks托管。 每个型号名称都对应其规格。 关于由其提供商托管的模型,请参见 “第三方提供商托管的模型”。

system.ai 中的模型资产会在全局范围内列出。 在那里看到某个模型并不意味着它在您的工作区中可用。 可用性取决于你的工作区区域、跨地理设置和模型可用性。 检查 Unity Gateway 界面对应的模型服务,确认你有权限查询它。

列出模型并不会将客户数据发送给该模型用于推理。 有关区域详情,请参见 按地区划分的模型可用性 。

注释

在 Azure Databricks 上,OpenAI 和 Google Gemini 模型,以及 Zhipu AI GLM 5.3、GLM 5.3 Flash 和 GLM 5.2(遗留版)、Moonshot AI Kimi K3、DeepSeek V4.1 Flash(1017)和 DeepSeek V4.1 Flash,均可通过 Databricks 提供的 ADI 服务获得。 有关这些模型描述,请参见 Databricks Foundation Model API支持的详细模型列表。 关于设置和访问,请参见 ADI服务。

Important

DeepSeek V4.1 Flash将于2026年11月19日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。

Important

Zhipu AI GLM 5.2已被弃用,计划于2027年2月4日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。

Important

OpenAI GPT-5 和 GPT-5 mini 将于 2026 年 12 月 11 日退役。 请参阅遗留、弃用和已退役模型,了解推荐的替换模型以及弃用期间的迁移指南。

Provider 模型家族 模型
Anthropic 克劳德·海库 Claude Haiku 5.5,Claude Haiku 4.5
Anthropic Claude Sonnet 克洛德十四行诗5.5,克 洛德十四行诗5,克 洛德十四行诗4.6,克 洛德十四行诗4.5
Anthropic 克劳德·寓言 Claude Fable 5.2,Claude Fable 5.1,Claude Fable 5
Anthropic 克洛德·奥普斯 Claude Opus 5.5,Claude Opus 5,Claude Opus 4.8,Claude Opus 4.7,Claude Opus 4.6,Claude Opus 4.5,Claude Opus 4.1
OpenAI GPT GPT-6.2 Astra、 GPT-6.2 Sol、 GPT-6.1 Terra、 GPT-6.1 Sol、 GPT-6 Sol、 GPT-6 Luna、 GPT-6 Astra、 GPT-5.6 Sol、 GPT-5.6 Terra、 GPT-5.6 Luna、 GPT-5.5 Pro、 GPT-5.5、 GPT-5.4、 GPT-5.4 mini、 GPT-5.4 nano、 GPT-5.2、 GPT-5.1、 GPT-5、 GPT-5 mini、 GPT-5 nano
OpenAI GPT Codex GPT-5.3 Codex
OpenAI GPT 开源软件 GPT OSS 120B, GPT OSS 20B
Google 双子闪电侠 Gemini 3.5 Flash、Gemini 3.5 Flash Lite、Gemini 3.1 Flash Lite、Gemini 3 Flash
Google Gemini Carbon Gemini 4 Carbon
Google Gemini Argon Gemini 4 Argon
Google Gemini Pro 双子座3.1专业版预览
Google 双子座图像生成 Gemini 3.1 闪光灯图片, Gemini 3 Pro 图片
Google 杰玛 Gemma 3 12B
Meta 骆马 Llama 4 Maverick,Llama 3.3 70B Instruct,Llama 3.1 8B Instruct
阿里云 Qwen OpenJev(Qwen3.5 4B)、Qwen3.5 122B A10B、Qwen3-Embedding-0.6B、 Qwen3-Next 80B A3B Instruct
Moonshot AI 基米 Kimi K3
志浦 AI GLM GLM 5.3、 GLM 5.3 Flash、 GLM 5.2(遗留版)
DeepSeek DeepSeek V4.1 Flash(1017),V4.1 Flash
阿里巴巴 GTE GTE Large (En)

关于已弃用型号及推荐替换型号,请参见 已弃用和退役型号。

第三方提供商托管的模型

以下模型由其提供商托管,而非Databricks,并通过Unity Gateway提供服务。 Azure Databricks 提供访问路径、认证和路由。 供应商运营模型托管环境,供应商的条款规范你对模型的使用。

参见 ADI Services。

Provider Model Hosting
TypeSafe AI 公司 TypeSafe AI Jev 1.14.0 由提供者托管,通过 Unity Gateway 提供

使用模型

你的任务 如何使用这些模型
构建应用程序或代理 通过 Unity Gateway API 调用模型。 系统提供的模型服务system.ai让你无需创建自定义模型服务即可开始。 参见 查询模型。
将人工智能应用于你的数据 使用 ai_query 通过 SQL、笔记本或批处理管道向受支持的模型发送提示词。 参见 使用 ai_query。
使用编码代理 通过 Unity Gateway 将你的编码代理连接到模型。 请参阅支持的编码和工作智能体。

支持的型号和型号标识符因接口而异。 请参阅链接中的指南了解要求和示例。

系统提供的模型服务

Azure Databricks 在system.ai中提供开箱即用、按令牌计费的模型服务,例如system.ai.claude-opus-5。 随着基础模型的出现,会新增服务。

  • 系统用户拥有它们,你无法删除它们。
  • 默认情况下,只有元存储管理员可以修改它们。 元存储管理员可以通过授予 MANAGE 权限来委托管理。

如需限制访问,请参见 “发现并治理对模型服务的访问”。

选择服务容量

选项 建议用于 工作原理
按令牌付费 使用量波动或间歇性的工作负载。 只需支付你使用的代币费用,而无需配置专用的服务容量。
按需配置吞吐量 需要专用容量,并且能够随着需求变化灵活调整容量的工作负载。 按分配容量付费,无需定期承诺。

Unity Gateway 模型服务可以路由到已配置吞吐量的目的地。 请参阅每个选项的文档,了解符合条件的模型和设置要求。

对于与 ai_query的批量推理,请使用 AI 函数指南 选择支持的模型和服务选项。 模式和地区支持因服务选项而异。

连接其他模型提供商

你也可以用自己的模型提供商账户使用 Unity Gateway。 连接 模型提供商 ,并利用贵组织的凭证管理访问权限。

请参见连接外部模型提供程序。

相关信息