准备应对 AI 相关的安全问题

本文介绍为准备 AI 环境而应实施的基本安全措施,包括启用用于发现、保护和治理 AI 的安全工具。 本文是系列中的第一篇文章。

显示面向 AI 的安全中“准备”部分的示意图。

为 AI 做准备的重点在于在整个数字环境中实施基础安全防护:

  • 标识和设备访问策略
  • 数据保护
  • 威胁防护

这些保护措施并非 AI 所独有。 它们极大地改善了所有应用、数据、用户和设备(包括 AI 应用和数据)的安全态势。

同时,这些保护构建了 AI 特定的安全和治理功能运行的基础。 例如,Microsoft Purview数据保护包括了解组织使用的 AI 网站以及与这些网站交互的组织数据。 Microsoft Defender威胁防护功能包括发现和管理 AI 应用,包括 AI 模型以及跨云环境的其他 AI 应用程序组件,包括 OpenAI、Amazon Web Services 和 Google Cloud Platform。

这些基础安全防护应贯穿于整个数字资产环境,从而在组织覆盖的整个范围内实现 AI 安全与治理。

包含 SaaS 应用、Azure 应用和云提供商的数字资产版图示意图。

在此图中,数字资产包括:

  • 组织使用的 SaaS 应用,包括Microsoft 365。
  • Azure中的应用分布在多个Azure订阅中。
  • 您在其他云提供商上的应用,包括 Amazon Web Services 和 Google Cloud Platform。

也建议采用这些同样的基础安全防护措施,为 Microsoft Copilots 做好准备——使用零信任安全为 AI 助手(包括 Microsoft Copilots)做好准备:

从标识和设备访问保护开始

若要保护环境,最强大的功能之一是通过Microsoft Entra ID实现多重身份验证和条件访问。 Microsoft建议一个策略集,以实现零信任 - 通用零信任标识和设备访问策略的目标。 此策略集包括:

  • 可立即实施的起步政策。 通过实施这些策略开始。
  • 推荐用于零信任的企业策略。 这些策略要求将设备注册到管理中,这可能需要一些时间。

有关规划、架构设计和部署身份与设备访问策略的工作,可参阅 Microsoft 零信任 指南中心:启用并保护远程办公。

若要为 AI 做好准备,请务必在整个数字资产中应用标识和设备访问保护。 这让你的组织能够轻松地将新发现的 AI 应用添加到条件访问策略的范围。

下图建议执行此工作的顺序。

显示集成顺序的示意图。

下表列出了上述步骤。

Step 任务
1 为Microsoft 365配置标识和设备访问策略。 请参阅常见的零信任身份和设备访问策略。此项工作的先决条件包括启用 Entra ID Protection。 这项工作包括将设备注册到管理中。 请参阅 使用 Intune 管理设备。
2 将 SaaS 应用与Entra ID集成。 可通过 Microsoft Entra 库添加这些项。 请确保这些应用包含在标识和设备访问策略的范围内。 请参阅将 SaaS 应用添加到Microsoft Entra ID和策略范围。
3 将Azure中的自定义应用与Entra ID集成。 请确保这些应用包含在标识和设备访问策略的范围内。 请参阅五个步骤,将应用与Microsoft Entra ID集成。
4 将其他云提供商中的自定义应用与Entra ID集成。 请确保这些应用包含在标识和设备访问策略的范围内。 将应用与 Microsoft Entra ID 集成的五个步骤。

在数据保护方面取得进展

数据保护需要一段时间,组织才能完全实现。 传统上,这需要在整个组织内分批推出一系列部署步骤。

信息保护技术采用过程示意图。

在此图中,信息保护在技术层面的实施包括可并行执行的层层递进的步骤:

  • 发现和标识敏感的业务数据
  • 开发分类和保护架构
  • 使用 Microsoft 365 中的数据测试和试验架构
  • 将分类和保护架构部署到跨Microsoft 365的数据
  • 将架构扩展到其他 SaaS 应用中的数据
  • 继续发现和保护其他存储库中的数据

Microsoft 零信任指导中心介绍了规划、构建和部署标识和设备访问策略的工作:保护关键业务资产。

随着 AI 工具的快速采用,许多组织正在采取加速的数据保护方法-立即优先保护最敏感的数据,然后填补空白,并随着时间的推移建立成熟度。

Microsoft Purview 提供数据安全态势管理(DSPM)功能,可帮助组织提升数据保护成熟度,无论其当前处于哪个阶段。 DSPM 功能有助于跨多个数据安全和风险和合规性解决方案轻松配置和新建策略。

通过在整个组织中自动扫描数据和活动,可以快速获取以未受保护的数据为重点的基线见解和建议,这些见解和建议可帮助你快速开始使用 DLP、信息保护和内部风险管理。 DSPM for AI 提供现成的策略,可帮助你入门。

如果已通过策略启动了数据保护之旅,请使用 DSPM 功能确定覆盖范围差距。

DSPM (预览版)通过匹配Microsoft 365环境中的敏感信息类型来标识敏感数据。

  • 提供可作为起点的策略建议
  • 提供有关数据安全风险的见解
  • 衡量数据安全策略的有效性
  • 提供有关高风险用户的洞察
  • 提供嵌入式智能 Microsoft Security Copilot 副驾驶®体验来帮助识别其他风险

适用于 AI 的 DSPM 提供组织中 AI 活动的见解和分析。

  • 随时可用的策略,用于保护数据并防止 AI 提示中数据丢失
  • 用于识别、补救和监控潜在数据过度共享的数据评估
  • 基于租户中数据的建议措施
  • 用于应用最佳数据处理和存储策略的合规性控制
  • 面向 Microsoft Copilots 和第三方 SaaS 应用程序(如 ChatGPT Enterprise 和 Google Gemini)的更深入见解

使用以下资源在 Microsoft Purview 中取得进展。

任务 推荐的资源
了解信息保护的建议部署策略 使用 Microsoft Purview 部署信息保护解决方案
开始使用 DSPM 数据安全状况管理入门(预览版)
适用于 AI 的 DSPM 入门 Microsoft Purview Microsoft Copilot和其他生成 AI 应用的数据安全性和合规性保护

启用威胁检测和响应

最后,启用Microsoft Defender威胁防护功能。 其中一些工具易于启动。 其他人需要一些规划和配置。 其中一些工具包括可以立即启用的特定于 AI 的功能,并从中获得价值。

SAF 指南介绍了如何最大程度地降低业务影响: 最大程度地减少安全事件造成的损害。

显示启用威胁检测和响应功能的关系图。

使用以下资源启用威胁防护。

任务 推荐的资源
部署Microsoft Defender XDR:
  • Defender for Identity
  • Defender for Office
  • Defender for Endpoint
  • 云应用防护器
  • 试点和部署Microsoft Defender XDR
    部署 Microsoft Entra ID 保护 规划Microsoft Entra ID 保护部署 - Microsoft Entra ID 保护
    部署云防护程序 Microsoft Defender for Cloud文档 
    连接Azure订阅
    为 AI 工作负载启用威胁防护(预览版) 
    使用 Defender CSPM 保护资源 
    查看数据和 AI 安全仪表板(预览版)  
    连接 AWS 帐户 
    连接 GCP 项目
    部署用于 IoT 的 Defender 为 OT 监视部署 Defender for IoT
    将威胁防护工具与 Sentinel 集成(SIEM) 使用 XDR 和集成 SIEM 的事件响应

    有关如何在这些工具中为 AI 启用威胁防护的信息,请参阅 保护 AI 数据和应用。

    后续步骤

    请参阅本系列中的下一篇文章: 如何发现 AI 应用以及组织中使用这些应用的敏感数据?