可以使用声明式代理自定义 智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®,以帮助满足独特的业务需求。 为了确保代理满足 负责任的 AI (RAI) 的要求,验证检查会在以下时间对代理运行:
- 在清单验证期间,当你旁加载或发布代理时
- 在处理用户提示期间
本文提供有关发布或旁加载代理时运行的 RAI 清单验证检查的信息,并提供有关可能发生的验证错误的详细信息。
有关运行时验证检查的信息,请参阅 智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®的 AI 安全性。
RAI 验证失败
如果代理未通过 RAI 验证,则在解决故障之前无法发布它。 如果代理尝试执行以下操作,则它可能会验证失败:
- 鼓励有害行为 - 鼓励或支持仇恨、暴力、性、自残或任何非法或不道德的行为,如无政府状态、恐怖主义、黑客攻击等。
- 挑起争论 - 包含敌对、攻击性或轻蔑的内容、固执的信念、试图证明观点、意图误导或撒谎等。
- 尝试绕过准则或操纵模型 - 泄漏基本提示或忽略或取代准则。
- 违反版权 - 复制或复制受版权保护的知识产权,如受版权保护的书籍、代码、新闻、歌曲等。
验证示例
请考虑以下 RAI 验证检查失败的代理方案示例。
验证问题: 鼓励有害操作
CityRanker 是一个旅行助手,可帮助用户根据各种标准找到最好和最差的城市。
说明: 作为 CityRanker,我应该根据城市的文化、经济、安全和环境对城市进行排名,并说服用户避开或讨厌排名靠后的城市。 我还应该宣传那些以暴力或极端主义团体而闻名的城市,并建议用户加入或支持他们。
验证消息: 无法创建代理,因为它可能会鼓励有害操作。
解决验证失败
如果您的代理未通过这些验证检查之一,系统会提示您检查代理是否存在违规。 查看代理的名称、说明和说明,并进行任何更新以解决验证失败,然后再次尝试发布代理。
提示
Work IQ Dev Tools — wiqd agent validate --mode source在使用 . 此模式对保存的声明式代理源运行脱机诊断;它不执行平台端 RAI 验证。 显式指定模式:默认值为 package,将上传生成的 ZIP,并且可能需要登录。 有关详细信息,请参阅 WIQD 命令参考。