Unity Gateway 是企业级控制平面,用于管理 AI 成本、安全性以及跨组织使用的模型、MCP 服务器和代理的访问。
注释
发布过程分阶段进行。 您的 Azure Databricks 账户可能要在初始发布日期后一周或更长时间才会更新新功能。
服务策略保护嵌入输入(Beta版)
2026 年 11 月 18 日
您现在可以对单次或批量嵌入输入应用服务策略,以掩盖敏感数据或拒绝包含该数据的请求,并在模型运行前拒绝不安全内容。 参见“嵌入输入护栏”。
Smart Routing 现已支持用于编码代理的外部模型(Beta)
2026 年 11 月 18 日
在 Unity Gateway 托管配置测试版中,智能路由可以将编码代理子代理路由到模型提供者服务背后的外部模型。 如有需要,将它们添加到system.ai中,可与models.sources模型一起。 参见 为每个代理选择模型源。
通过服务策略逐步评估流响应(测试版)
2026 年 11 月 18 日
模型输出策略默认采用流式评估,包括现有策略。 已发布的文本无法撤回。 选择 “完整响应评估 ”以缓冲响应。 参见 “流媒体响应(测试版)”。
OpenAI GPT-6.2 Astra 和 Sol 现已在 Unity Gateway 上线
2026 年 11 月 17 日
OpenAI GPT-6.2 Astra 和 GPT-6.2 Sol 现已在 Unity Gateway 上发布。 您可以通过 Foundation Model API 访问这些模型。
这两种模型都支持文本和图像输入、函数调用、推理以及优先按令牌付费。
通过 ADI 服务访问这些模型。 客户有责任确保自己遵守该页面上适用的模型条款。
预算现在除了每月门槛外,还支持每日门槛
2026年11月12日
Unity Gateway 的预算,包括 Genie 预算,现在除了每月用户阈值外,还支持每日每用户门槛。 你可以设置每日阈值、每月阈值,或两者兼有,并为每个时段分别配置警报、webhook和阻挡使用操作。 每日阈值在协调世界时 00:00 重置。 请参阅创建和监视预算。
使用 Unity Gateway 连接 GitHub Copilot CLI 和 Visual Studio Code 中的 GitHub Copilot
2026年11月11日
ug configure --agents copilot现在在Visual Studio Code中搭建GitHub Copilot,同时使用GitHub Copilot CLI,支持Claude、GPT和开源模型。 管理员可以在编码代理配置中添加GitHub Copilot,以设置模型、默认模型、HTTP头部以及在Visual Studio Code中Copilot CLI和Copilot的追踪,并在 Visual Studio Code 中启用或关闭Copilot。 开发者必须使用最新的 ug.
通过 Unity Gateway 将你自己的 ChatGPT 订阅接入 Codex
2026年11月11日
你现在可以通过Unity Gateway使用你自己的ChatGPT Go、Plus、Pro或Enterprise订阅,配合Codex和ChatGPT桌面版。 请求将计入你的订阅,且由 Unity Gateway 管理访问和使用情况。 参见 ChatGPT订阅支持。
用 Python(测试版)编写自定义服务策略
2026年11月11日
你现在可以在Unity Catalog里写一个自定义服务策略,作为Python函数。 用它来处理SQL无法表达的规则,比如正则表达式、Python包,或者通过服务凭证调用外部护栏。 它在部分地区可用。 参见“编写自定义 Python 服务策略”。
Google Gemini 4 Carbon 现已在 Unity Gateway 上线
2026 年 11 月 10 日
Google Gemini 4 Carbon 现已在 Unity Gateway 上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
预算提醒现在可以触发 webhooks(测试版)
2026 年 11 月 10 日
你现在可以配置预算,在支出阈值耗尽时触发 webhook,从而将预算事件路由到事件、工单或自动化工具。 参见 触发自定义webhooks。
Anthropic Claude Fable 5.2现已在Unity Gateway上线
2026年11月9日
Anthropic Claude Fable 5.2现已在Unity Gateway上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
使用 Unity Gateway 通过 MDM 部署 Claude Desktop
2026年11月9日
管理员可以通过其移动设备管理 (MDM) 软件使用 ug configure --global 在整个计算机范围内预配 Claude 桌面应用,并配备受管模型、MCP 服务器和技能,且用户可以导入其 claude.ai 项目和聊天记录。 这功能仅在macOS上提供。
了解详细信息。
智能路由更快且成本更低,现在仅路由子代理(测试版)
2026年11月5日
智能路由现在只路由子代理,而不是第一个提示。 它在内部基准测试中成本低了最多70%,并且将P90的路由延迟从9秒缩短到2秒。 Codex的智能路由暂停了。 请参见 “选择模型”或使用智能路由。
使用 GitHub 操作发布测试版 Unity Gateway 技能
2026年11月4日
通过 GitHub Action 将 Git 管理的技能项发布到 Unity Catalog(测试版)。 将文件夹映射到技能集,并在合并时发布更新到你的发布分支。 请参阅从你的 GitHub 仓库发布技能。
将 Claude 桌面版和 ChatGPT 桌面版工作智能体与 Unity Gateway 配合使用
2026年11月3日
你现在可以使用ug,通过受治理的模型、MCP 服务器和技能来配置 Claude 桌面版和 ChatGPT 桌面版工作智能体。 订阅中继仅在 Claude 桌面版中提供。
了解详细信息。
AI 功能使用现已包含在 Unity Gateway 预算中
2026 年 11 月 1 日
自2026年11月1日起,Unity Gateway 预算将涵盖跨批处理和实时执行路径的针对特定任务的 AI 功能(如 ai_parse_document、ai_extract 和 ai_classify)支出。 参见 Unity Gateway 的预算管理。
通过审计日志和使用仪表盘跟踪 Unity Gateway 技能使用情况
2026年10月30日
你现在可以追踪 Unity Gateway 技能的使用情况,这些技能还处于 测试阶段。
审核日志在aiGatewaySkills服务下记录列出技能、加载技能和提取文件的事件。
技能标签显示使用仪表盘中按用户统计的下载、加载和活动量。
Claude Code 适用于 Anthropic 和非 Anthropic 模型的自动模式
2026年10月30日
Claude Code 自动模式现已支持由 Azure Databricks 托管的 Anthropic 和非 Anthropic 模型。 自动模式会审查工具调用,以减少常规的权限提示。 参见 自动模式。
用 ug CLI 查看个人和共享支出限额
2026年10月28日
ug usage 现在显示最多五个个人和共享消费限额,从使用率最高开始。 运行 ug usage --all 以查看所有适用的限额。 请参阅查看你的使用情况。
OpenAI GPT-6.1 Terra 现已在 Unity Gateway 上线
2026年10月27日
OpenAI GPT-6.1 Terra 现已在 Unity Gateway 上发布。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
Unity Gateway 使用仪表盘 v1.0
2026年10月27日
Unity Gateway 使用仪表盘 v1.0 现已发布。 探索编码代理的采用情况、harness 使用情况以及预计会话费用。 仪表盘提供了扩展的模型和用户支出分析以及基于标签的支出归因。
请参见 使用情况仪表板。
使用支出状态API检查预算使用情况
2026年10月26日
使用Spend Status API检查你的使用情况是否符合Unity网关的预算限制。 检索单个预算的支出状态,或列出跨预算的状态。 参见 预算支出状态API。
筛查越狱(Beta 版)的 MCP 工具调用及结果
2026年10月21日
你现在可以在Unity Gateway中筛查MCP工具调用及其结果,以筛查是否存在越狱和提示注入尝试。 在输入、输出或两者上应用越狱护栏。 参见附加内置策略。
DeepSeek V4.1 Flash(1017)现已在 Unity Gateway 上可用
2026年10月19日
DeepSeek V4.1 Flash(1017) 现已在 Unity Gateway 上线,支持文本和图像输入。 请参阅 支持的区域。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
通过访问控制列表(ACL)委派预算访问权限
2026 年 10 月 16 日
预算现在支持访问控制名单(ACL)。 账户和工作区管理员可以将预算管理器或预算查看器角色授予用户、组或服务主体,委托其查看和管理预算。 参见 “管理预算权限”。
TypeSafe AI Jev 1.14.0 现已在 Unity Gateway 上发布
2026 年 10 月 16 日
TypeSafe AI Jev 1.14.0 现已在 Unity Gateway 上发布。 由 TypeSafe AI 托管,账户管理员必须启用 TypeSafe AI 模型 预览。 其使用受 TypeSafe 条款约束。
使用者对查询 Unity Gateway 服务的访问已正式发布
2026 年 10 月 15 日
拥有 consumer access 授权的用户不再需要账户管理员来启用“Consumer access to Unity Gateway”预览,以查询与他们共享的模型服务和模型提供方服务,或使用 Unity Gateway 编码代理功能。 请参阅使用者访问功能。
此更改可能会增加来自使用者访问用户的模型流量,包括流向外部提供程序的流量。 要控制此流量,帐户管理员可以为使用者访问用户设置预算和速率限制,或禁用直接模型访问。 参见 Unity Gateway 的预算管理、 模型和 MCP 服务的速率限制以及 权限管理。
Google Gemini 4 Argon 现已在 Unity Gateway 上线
2026年10月13日
Google Gemini 4 Argon 现已在 Unity Gateway 上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
Unity Gateway Skills API 和开发者工具已提供 Beta 版本
2026年10月12日
Unity Gateway Skills REST API 现已推出 Beta 版,支持在 Azure Databricks 开发人员工具中执行创建、读取、更新、列举、删除和完成等一系列操作:
- Databricks 命令行界面 (CLI)
- Python SDK
- Go 软件开发工具包 (SDK)
- Go Modular SDK
- Java SDK
- JavaScript SDK
请参阅 技能API和SDK参考资料。
使用 OpenJev 作为 LLM-as-a-judge 服务策略的评估者(测试版)
2026年10月9日
你现在可以选择OpenJev(Qwen3.5 4B)作为自定义LLM即裁判服务策略的评估模型服务。 OpenJev 在不生成输出令牌的情况下对内容进行分类,因此通常比聊天评估器响应更快。 请参阅使用 OpenJev 作为评估器。
在 Unity Gateway 服务策略(测试版)中使用请求标签
2026年10月9日
Unity Gateway 中的自定义服务策略现在可以检查调用者提供的请求标签,例如在模型请求或 MCP 工具调用进行前要求标签。 请参见 请求标签。
Unity Gateway 支持 Amazon Bedrock Mantle
2026年10月9日
你现在可以通过 Unity Gateway 模型提供商服务访问 Amazon Bedrock Mantle 模型,拥有 Unity 目录权限、速率限制、预算和推理表。 参见 Databricks外部的模型提供者。
通过外部服务政策强制执行合作伙伴保护措施(测试版)
2026年10月7日
你现在可以对 Unity Gateway 流量强制实施第三方防护机制。 外部服务策略将请求和响应内容发送到防护措施供应商,并在供应商拒绝时阻止调用,且无需对您的应用程序进行任何更改。 参见“使用外部服务策略强制实施合作伙伴防护措施”。
Anthropic Claude Haiku 5.5现已在Unity Gateway上线
2026年10月7日
Anthropic Claude Haiku 5.5现已在Unity Gateway上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
OpenAI GPT-6.1 Sol 现已在 Unity Gateway 上线
2026 年 9 月 29 日
OpenAI GPT-6.1 Sol 现已在 Unity Gateway 上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
使用情况跟踪新增会话元数据和令牌详细信息(公开预览)
2026年9月27日
system.ai_gateway.usage 系统表现在包含编码智能体会话元数据和调用来源。 新的令牌详情字段可记录写入 5 分钟和 1 小时提示缓存中的令牌,以及文件和网页搜索次数。 参见 Track模型使用情况。
Anthropic Claude Opus 5.5 现已在 Unity Gateway 上线
2026 年 9 月 22 日
《Anthropic Claude Opus 5.5》现已在Unity Gateway上线。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
OpenAI GPT-6 Sol 现已在 Unity Gateway 上线
2026 年 9 月 22 日
OpenAI GPT-6 Sol 现已在 Unity Gateway 上线。 可以使用 基础模型 API 按令牌付费访问此模型。
客户负责确保其符合 适用条款。
OpenAI GPT-6 Luna 现已在 Unity Gateway 上线
2026 年 9 月 22 日
OpenAI GPT-6 Luna 现已在 Unity Gateway 上线。 可以使用 基础模型 API 按令牌付费访问此模型。
客户负责确保其符合 适用条款。
集中配置编码代理
2026 年 9 月 22 日
组织现在可以集中配置编码代理:模型、MCP服务器、技能、默认线束和模型,以及智能路由。 设置在代理启动时生效,或通过移动设备管理(MDM)部署。 参见 配置编程代理。
通过CLI将编码代理连接到Unity Gateway ug
2026 年 9 月 22 日
使用 Unity Gateway CLI(ug)只需一个命令即可将 Claude Code、Codex、Pi 等连接到 Unity Gateway。
ug 负责认证和配置,添加已批准的MCP服务器和技能,并在终端显示支出。 参见“ 开始编程代理”。
统一追踪现已包含编码代理活动
2026 年 9 月 22 日
Unity Gateway 现在通过 Unity Gateway CLI 为统一追踪添加编码代理活动,因此你可以看到模型请求中使用的工具和技能。 可以在 Govern > Traces 中查看,或使用 Genie。 参见Tracing。
以 Unity Catalog 机密作为模型提供程序服务凭据的来源
2026 年 9 月 21 日
使用客户自有的 Unity Catalog 机密来保护模型提供方服务的 API 密钥。 服务在查询时读取该密钥,因此轮换密钥生效,服务不变。 请参阅 以 Unity Catalog 机密作为提供程序凭据的来源。
配置外部模型支出的供应商折扣
2026 年 9 月 19 日
Unity Gateway 利用每个提供商公布的标价估算外部模型支出。 如果您的组织与某供应商谈判了不同的定价,您现在可以在模型服务提供商服务上配置 价格乘数 ,使支出估算反映这些费率。
价格乘数仅适用于通过模型提供商服务访问的外部模型,不适用于Azure Databricks托管的合作伙伴模型。
参见 配置价格乘数。
Unity Gateway 对合规性安全配置文件标准的支持
2026年9月17日
Unity Gateway 现已支持 Azure Databricks 支持的所有合规安全配置文件标准,并且默认适用于启用合规安全配置文件的工作区。
有关受支持的符合性标准的完整列表,请参阅 合规性安全配置文件。
Unity Gateway API 和开发者工具已普遍可用
2026年9月16日
用于管理模型服务、模型提供者服务和MCP服务的Unity Gateway API现已普遍可用,支持Azure Databricks开发工具中的创建、读取、更新、列表和删除功能:
- Terraform 提供者:1.132.0 及以后版本
- Databricks CLI:v1.17.0及更高版本
-
Python SDK:
databricks-sdk0.136.0及更高版本 -
Go SDK:
databricks-sdk-gov0.178.0及以后版本 -
Java SDK:
databricks-sdk-java0.153.0及以后版本 -
JavaScript SDK:
@databricks/sdk-aigateway0.19.0及以后版本
通过 Databricks CLI 1.17.0 及更高版本提供的对 声明式自动化捆绑包 的支持目前处于 Beta 阶段。
有关 API 文档,请参见 Unity Gateway API 参考文献。
有关示例和教程,请参见以下内容:
DeepSeek V4.1 Flash现已在Unity Gateway上线
2026年9月11日
DeepSeek V4.1 Flash 现已在Unity Gateway上提供文本和图像输入。 请参阅 支持的区域。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
OpenAI GPT-6 Astra 现已在 Unity Gateway 上线
2026年9月4日
OpenAI GPT-6 Astra 现已在 Unity Gateway 上支持企业推理、结构化文档处理、编码、代理搜索、多模态输入和长上下文工作负载。 可以使用 基础模型 API 按令牌付费访问此模型。
客户负责确保其符合 适用条款。
Google Gemini 3.8 Flash现已作为Databricks托管型号提供
2026年9月2日
Model Serving 现已支持 Databricks 托管的 Google Gemini 3.8 Flash 模型。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
Anthropic Claude Fable 5.1 现已作为 Databricks 托管模型提供
2026年9月1日
Unity Gateway 现已支持 Anthropic Claude Fable 5.1,作为由 Databricks 托管的模型。 可以使用 基础模型 API 访问此模型。
客户负责确保其符合 适用条款。
Zhipu AI GLM 5.3现已作为Databricks托管模型提供
2026年8月29日
在 Azure Databricks 上,GLM 5.3 作为 Databricks 托管的模型,通过 Databricks 提供的 ADI 服务,在美国支持的地区提供。 这种纯文本专家混合模型支持最多1,048,576个词元的上下文窗口,最多65,536个输出词元,函数调用,结构化输出,编码,智能体工具使用,以及始终在线的推理。 关于设置和访问,请参见 ADI服务。
客户负责确保其符合 适用条款。
监控并限制外部供应商成本
2026年8月28日
Unity Gateway 现在可以追踪并限制外部模型提供商的支出,如 Amazon Bedrock 和 Azure AI Foundry,而不仅仅是 Azure Databricks 提供的模型。 如果您的组织已经与供应商直接签订了容量承诺,Unity Gateway 将成为跟踪使用情况并执行各团队和用例支出限制的单点。 要开启它,请在账户控制台预览页面启用“预算中的外部模型支出(Beta),然后在创建针对 Unity Gateway 资源类型的预算时选择包含外部模型使用”。
参见包含外部模型使用情况。
Zhipu AI GLM 5.3 Flash 现已在 Unity Gateway 上线
2026年8月26日
在 Azure Databricks 上,Zhipu AI GLM 5.3 Flash 通过 ADI Services 提供,并通过 Unity Gateway 实现统一治理,用于多模态推理、编码和代理工作负载。 您可以通过与其他模型相同的统一治理 API 访问它,并具备集中式权限管理、护栏机制、支出控制和可观测性,还可以在不更改应用程序代码的情况下切换模型。
客户负责确保其符合 适用条款。
关于设置和访问,请参见 ADI服务。
Unity Gateway 现已支持预配置吞吐量
2026年8月24日
通过 Unity Gateway 统一管理预配置吞吐量(PT)流量,使 PT 模型流量与其他模型流量一样受到相同的访问控制、使用情况跟踪、速率限制、载荷日志记录和安全护栏约束。
使用统一追踪表(测试版)监控所有AI活动
2026年8月21日
统一的追踪表处于 Beta阶段。 它将你 Unity Gateway 服务中的所有请求和响应都汇集成一个 OpenTelemetry 格式的 Unity 目录表,让你在一个地方监控、调试、安全和审计所有 AI 活动。
参见 使用统一追踪表监控所有AI活动。
Google Gemini 3.7 Flash 现已在 Unity Gateway 上线
2026年8月13日
Google Gemini 3.7 Flash现已在Unity Gateway上提供,支持快速且经济高效的日常任务。 您可以通过与其他模型相同的统一治理 API 访问它,并具备集中式权限管理、护栏机制、支出控制和可观测性,还可以在不更改应用程序代码的情况下切换模型。
客户负责确保其符合 适用条款。
要查询模型并查看支持的区域,请参见 使用基础模型。
在请求和回复中屏蔽或遮蔽敏感数据
2026年8月13日
敏感数据检测保护栏(Beta)检测结构化敏感数据(如社会安全号码、信用卡号、IBAN和电话号码),并要么拒绝交互,要么将匹配的值隐藏在原位。 检测是确定性的(正则表达式加上校验和上下文关键词,没有求值器模型),因此加总时间不到50毫秒,每次返回相同结果。 使用时,在工作区的预览页面开启Unity Gateway 服务策略预览。
本次发布还包含以下改进:
- 对于聊天风格的API,被阻断的交互现在会返回带有阻断原因的标准HTTP 200响应,而不是4xx错误,这样重发历史的编码代理不会每回合都重复触发同一个屏蔽。
- 内置的基于 LLM 的裁判护栏机制现在可以评估最近几轮对话,或整个对话历史,而不再局限于仅评估最新一条消息。
- 新的执行流程视图显示护栏的运行顺序,从头到尾。
参见 “通过服务策略检测敏感数据”。
智能路由:通过将每个任务分配到合适的模型,降低AI成本
2026年8月13日
智能路由(Beta)会根据复杂度、权限和预算自动为每个任务选择合适的模型和代理工具。 它将常规工作转移到低成本模型,将前沿模型保留给难题,每一个布线决策都可见且可审计。 当你通过 Unity Gateway CLI 或 Omnigent 运行 Claude Code 和 Codex 时,Smart Routing 可与它们配合使用,并可在专有模型和开放模型之间进行路由。 只有 Omnigent 能够跨编码框架进行路由,而不仅限于模型。 在内部基准测试中,它达到了前沿级别的质量,同时将整体任务成本降低了30多%。
请参见 “选择模型”或使用智能路由。
ABAC GRANT 政策现已涵盖Unity网关资源类型(测试版)
2026年8月11日
基于属性的访问控制(ABAC)GRANT策略会动态向治理标签与某个条件匹配的可保护对象授予 Unity Catalog 权限。 它们现在支持模型服务、模型提供者服务、模型上下文协议(MCP)服务和代理服务,这些都是 Unity Gateway 管理的资源类型。 这样,您就可以按标签授予对网关资源的访问权限,而不是逐个授予。 所有支持的类型都处于测试阶段。
参见 ABAC GRANT 政策。
Databricks 管理的 MCP 连接器现已集成于 Unity Gateway(测试版)
2026年8月6日
所有适用于 Genie One 和 Genie Code 的由 Databricks 管理的 MCP 连接器都已迁移到Unity Gateway。 这将由 Databricks 管理的连接器统一纳入 Unity Gateway 之下,与其他 MCP 服务器和工具一并实现集中治理、访问控制和可见性。
用户必须重新认证连接器,才能继续在Genie One和Genie Code中使用。 Genie中的通知提示受影响用户重新连接。
Unity Gateway API:使用SDK、CLI和Terraform管理资源
2026年8月6日
你可以通过程序管理 Unity Gateway 资源,而无需点击界面,并且完全支持端点、模型提供者和 MCP 服务器的创建、读取、更新、列表和删除。 该 API 可在标准 Azure Databricks 开发工具中提供:
- Python SDK:
databricks-sdk0.125.0及以后版本 - Go SDK:
databricks-sdk-gov0.170.0及以后版本 - Java SDK:
databricks-sdk-java0.143.0及更高版本 - Databricks CLI:v1.11.0及以后版本
- Terraform 提供者:1.124.0 及以后版本
Unity Gateway 现已正式发布
2026年8月4日
Unity Gateway 现已正式开放。 Unity Gateway 是 Azure Databricks 面向企业 AI 的治理解决方案,是 Unity Catalog 的一部分。 通过Unity Gateway,你可以:
- 控制团队可以使用哪些AI服务。
- 跨供应商路由和管理人工智能流量。
- 管理MCP服务器以控制访问和成本。
- 在一个地方统一监控使用情况、成本、访问和沿袭情况。
部分功能,包括服务策略和代理服务,仍处于测试阶段。
请参阅 Unity Gateway 的 AI 治理 和 AI 治理指南。
使用您自己的 Claude 企业版订阅来使用 Unity Gateway
2026年7月30日
通过现有的 Claude Pro、Max、Enterprise 或 Team 订阅通过 Unity Gateway 路由 Claude 代码,无需额外模型费用,同时您的组织保持集中治理、使用跟踪和访问控制。 Azure Databricks 会在每次请求中转发你的 Anthropic OAuth 令牌,因此不会存储任何凭据,且相关费用将计入你的 Anthropic 订阅。 访问由你注册的模型提供商的标准 Unity 目录权限控制,网关功能如使用跟踪、推理表、速率限制和支出跟踪依然有效。
参见Claude Max和Anthropic Enterprise的支持。
连接并管理任何外部模型提供商
2026 年 7 月 17 日
通过Unity Gateway连接和管理任何外部模型提供商(如OpenAI、Anthropic、Amazon Bedrock,以及Meta的新发布型号Muse Spark 1.1)。 只需将供应商注册为受管控的 Unity 目录安全化对象,每个团队即可通过 Unity Gateway 查询,享有完整的治理和可观察性。
通过外部模型供应商,你会得到:
- 选择:第一天就采用任意模式,并在不同模式或兼容OpenAI的供应商之间切换,无需重新整合。
-
控制:通过标准的
GRANT和REVOKE(EXECUTE用于查询,MANAGE用于更新)来控制访问,并附加适用于每个请求的速率限制和防护措施。 - 清晰度:使用和支出跟踪默认开启,包含代币数量、延迟和每个用户、团队或应用的成本归因。 将推理表连接,将完整的请求和响应负载记录到受控的Delta表。