你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。

Foundry 治理

Microsoft Foundry 治理(以前称为 Foundry 控制平面)是企业 AI 车队的集中管理体验。

Microsoft Foundry 通过代理标识、代理访问策略、成本管理和安全防护措施为 AI 代理、模型和工具提供内置治理。 平台团队使用受支持的策略控制来建立组织边界,工程师在这些边界内进行构建。

Foundry 治理结合了内置控制、集中式管理和可选集成。 通过 Foundry 门户中的 管理,管理员、平台团队和开发人员可以了解其 AI 资产、监视操作、调查成本以及评估策略和保护。

如果需要,可通过支持的集成,使用用于集中流量控制的 AI Gateway、用于企业代理管理的 Microsoft Agent 365、用于数据安全和治理的 Microsoft Purview,以及用于威胁防护和响应的 Microsoft Defender 来扩展这一内置基础。

这些集成扩展了 Foundry 的治理基础。 它们不是每个本机控件的先决条件,它们不是一个可互换的控制平面。 可用功能取决于工作负荷、权限、配置和支持的集成。

Important

本文中标记为(预览)的功能为公共预览版,受Microsoft Azure预览版补充使用条款的约束。 预览版在没有服务级别协议的情况下提供,Microsoft不建议将其用于生产工作负荷。 某些功能可能不受支持,或者可能具有受限功能。

先决条件和权限

若要使用 Foundry 治理功能,需要:

各项功能可能需要额外的权限或配置:

并非每个 Foundry 治理功能都需要 AI 网关。 代理 365、Purview 和Defender并不是每个本机标识、访问、成本或安全控制所需的先决条件。

Note

此功能仅在 Foundry (new) 门户中可用。 在门户横幅中查找 以确认你正在使用新版 Foundry。

何时使用 Foundry 治理

在组织需要以下情况下使用 Foundry 治理功能:

  • 为代理访问、成本和安全建立受支持的治理边界,并审查其在各项目中的应用情况。
  • 了解跨团队支持的代理、模型和工具。
  • 确定导致错误、延迟、消耗增加或支出的资产。
  • 查看策略要求、分配范围和不符合的资产。
  • 调查配置集成的安全建议和数据保护差距。
  • 从机队级监督转向项目级调查,以及对负责某项控制的服务进行调查。

覆盖范围因资产类型和平台而异。 外部代理不一定与 Foundry 代理具有相同的清单、遥测或管理支持。 请参阅 支持的代理平台。

内置治理,根据需要进行扩展

Foundry 的内置治理涉及四个方面。 它们共同帮助你的组织确定代理是谁、可以访问哪些内容、其使用方式如何被管理,以及适用哪些安全控制。

Area 内置功能 Learn more
代理标识 通过Microsoft Entra代理标识和蓝图表示代理。 使用支持的身份验证和代表用户(OBO)委派流进行下游访问。 代理身份概念和面向工具的用户委派。
代理访问 为模型部署、代理类型和托管代理容器映像、批准的工具和网络出站流量应用策略。 覆盖范围和执行因策略和代理类型而异。 模型部署策略、 代理部署策略、 工具治理策略和控制以及 托管代理网络出口策略。
成本管理和 FinOps 使用支持的支出或令牌预算以及警报或阻止操作监视成本和消耗、管理模型配额以及配置成本控制(预览版)。 查看订阅成本、管理配额和成本控制概述(预览版)。
安全和负责任的 AI 为输入、输出和代理交互中的风险配置防护栏和支持的运行时控制。 模型、代理类型和干预点的适用性不同。 护栏和控制概述。

内置并不意味着每个控制措施都会自动启用,或以相同方式应用于每个运行时。 某些功能以预览版提供。 配置工作负荷所需的控制措施,并在链接文档中查看其支持的范围和可用性。

了解强制实施发生的位置

相关服务中的Azure Policy和执行构成了治理基础的一部分。 管理 提供资产的可见性, 合规性 显示策略分配和可用的合规性结果。 管理体验不能替代强制实施。

例如:

并非每个控制都使用相同的策略机制或评估点。 单独查看配置时检查和运行时限制。 合规配置并不能证明每个运行时操作都是被允许的,或所有治理要求都已得到评估。

通过集成扩展基础

当需求超出工作负荷所需的原生功能时,请连接其他服务。

集成 新增的内容 理解范围 Learn more
AI 网关 针对支持的模型和工具终结点的集中流量控制,包括路由、速率或令牌限制以及监视。 控制适用于通过配置的网关路由的流量。 原生 Foundry 治理并非在所有情况下都需要网关。 为 Foundry 配置 AI 网关。
Microsoft Agent 365 企业代理清单、基于身份的治理、可观测性和跨受支持平台的生命周期管理。 代理支持、遥测、管理操作和启用要求因集成而异。 Agent 365 与 Foundry 的集成。
Microsoft Purview 数据安全和治理功能,包括审核、数据保护见解和支持的数据丢失防护方案。 覆盖范围取决于方案、身份验证、配置和许可。 审核可见性与策略强制实施不同。 Foundry 的 Purview 数据安全性和合规。
Microsoft Defender 通过受支持的集成提供安全态势、威胁防护以及调查和响应功能。 Foundry 中的Defender for Cloud建议以及威胁防护或响应工作流具有不同的配置和覆盖范围要求。 设置Defender for Cloud并为 AI 服务启用威胁防护。

这些服务相互补充。 不要假设全局策略同步、跨运行时的相同覆盖或所有发现自动关联。

浏览“管理”体验

在 Foundry 门户中,选择管理以访问集中式车队管理和管理能力。

Experience 它能帮你做什么
Fleet 浏览清单、活动、令牌消耗、成本和策略违规亮点。
费用 分析支出和预测,并管理适用的成本控制(预览版)。
操作 查看调用、错误、延迟、令牌使用情况和可用的代理质量信息。
遵从性 查看策略、资产符合性、Defender for Cloud 建议和 Microsoft Purview 见解。
配额 查看适用的模型配额以及访问配额管理功能的权限。
网关 访问网关管理功能。

资源详细信息和Project详细信息为资源和Project管理提供入口点。

范围控件因页面而异。 车队、成本和操作支持选择订阅,并按资源组或项目缩小视图范围。 在页面之间移动时,请检查所选的范围和时间范围。 管理 不限于当前选定的项目。

了解 AI 机群

Fleet 是了解所选范围内的资产和活动的起点。 摘要卡显示项目、活动代理和模型、代理运行、令牌消耗、成本和存在策略违规的资产。

运营和治理突出显示了具有高错误事件、高代理运行延迟、成本增加和策略冲突的资产。 使用清单和上下文链接继续进入运营、成本或相关策略视图。

例如,识别出现频繁错误的代理,在操作中调查其运行时行为,并在合规性中查看其适用的要求。 比较资源标识和范围,而不是假设这些发现有共同原因。

不可用的指标并不意味着零活动或没有违规。 有关该页面的数据源、筛选器和排查路径,请参阅 “监控您的代理群组”。

了解和管理 AI 成本

使用 成本 调查支出模式,并确定导致所选订阅内成本产生的项目、代理和模型。

“概述”选项卡显示Azure 成本管理的成本,包括代理和模型细分。 其 估计成本 标签反映,在发票最终之前,本月成本可能会更改。 成本数据到达时间晚于运营使用情况指标;不要将令牌计数视为计费记录,也不假定这两个视图同时更新。

可用的预测和比较取决于权限和数据。 缺少的预测并不意味着零支出,并且缺少以前的周期数据会使比较不可用。

“ 成本控制 ”选项卡提供对 Foundry 成本控制(预览版)的访问权限。 这些控制为支出或令牌维护单独的运行总计,并应用配置的阈值操作。 达到阈值时,这些控制项可以发出警报或阻止新的适用请求。

仅预算或仪表板摘要不保证支出停止。 要启用阻止,需要配置 阻止使用 操作。 超过阈值的请求仍可完成,成本控制总计与已协调的计费数据不同。

有关详细指导,请参阅查看订阅成本、成本控制概述(预览版)以及创建和管理成本控制(预览版)。

监视整个环境中的操作

操作 为支持的代理和模型提供活动和可靠性的跨项目视图。 查看代理运行、模型请求、工具调用和令牌总数。 在 调用、令牌、错误 和 延迟 之间切换,检查趋势并确定需要调查的对象。

可用的代理质量信息取决于配置的评估和结果。 不可用的质量值不是低分数。

操作指标可帮助你确定调查位置。 它们不会自动确定根本原因或保证每个事件都有匹配的跟踪。 继续对可用指标、评估和跟踪进行项目级监视。

请参阅监视代理和模型操作和使用 Agent Monitoring Dashboard 监视代理。

监视合规性和安全性

管理>合规性 汇集了互补的治理观点。

选项卡 关注
策略 策略和倡议分配、范围、合规性结果、违规资产和强制模式信息。
资产 代理、模型和工具箱的可用策略评估和影响。
安全状况 Defender for Cloud有关安全配置风险和修正的建议。
数据安全性和治理 Purview 覆盖率指标、数据保护差距和优先调查操作。

从策略开始,了解其范围和影响,或从资产开始查看适用的要求。 然后继续Azure Policy、Purview、Defender或相关的 Foundry 配置体验。

合规性可集中查看和调查。 它本身不会制定或强制实施每个控件。 合规性结果不一定会在运行时被阻止,Purview 调查线索不证明恶意活动。

有关详细工作流和集成要求,请参阅 在 Foundry 中监控 AI 治理和合规性。

管理配额和网关

使用 配额 可查看模型配额、访问权限分配情况,或申请提高配额的功能。 配额访问权限可能需要单个 Project 之外的权限。 请参阅 管理 Foundry 资源的配额。

使用 网关 访问网关管理功能。 有关选择和配置 Azure AI Gateway 或 Azure API 管理 的指导,请参阅 在 Foundry 资源中配置 Azure AI Gateway。

配额管理和网关流量控制是不同的机制。 使用每个 Foundry 原生配额、成本或治理功能都不需要配置网关。

从车队范围的见解到 Project 级别调查

舰队级视图和Project级视图是互补的。

Experience Role
管理 更广泛的库存、运营、成本、治理和管理。
Project 级监控 Project 的代理和模型的详细操作信息和可用跟踪。
构建 在适用的组织边界内开发和配置 AI 资产。
集成服务 专用企业代理管理、流量治理、数据保护或威胁调查和响应。

例如,平台团队建立了经批准的工具和模型要求。 工程师在这些边界内配置代理。 操作员注意到 Fleet 中的延迟增加,在 Operations 中调查受影响的代理,并在可用时跟踪项目级跟踪。 如果出现单独的数据保护或安全问题,团队会通过配置的 Purview 或Defender集成对其进行调查。

跨视图比较资源标识、范围和时间范围。 这些页面不一定属于同一个自动关联的事件,跟踪可用性取决于收集的遥测数据和权限。

有关设置和调查指导,请参阅 设置追踪 和 配置集群监控。

开始

首先从 Foundry 的内置治理开始,然后为有需要的要求添加集成。

  1. 建立身份和访问边界。 查看 代理身份 和 身份和访问概述。 仅授予方案所需的管理、终结点和下游权限。
  2. 配置支持的治理和安全控制。 根据需要使用 模型部署策略、 代理部署策略、 本机工具治理和 防护措施 。 单独验证配置检查和运行时行为。
  3. 建立成本可见性和控制。 查看 成本权限、检查 订阅成本,并针对你打算涵盖的使用情况配置 成本控制阈值操作(预览版)。
  4. 检查生成的环境。 在 Foundry 门户中打开 “管理”。 从 机队开始,然后使用 运营、成本或 合规性 进行调查。
  5. 根据需要进行扩展。 按照每个服务的覆盖范围和配置要求,添加网关控制、Agent 365 集成、Purview 数据保护或Defender threat protection。