代理运行时

Agent Runtime 在 Azure Databricks 托管的无服务器计算平台上运行你的代理。 它会在 Databricks 应用上运行你的智能体服务器,例如 DurableAgentServer,因此你部署的是代码,而不是预配服务器。 想了解 Agent Runtime 如何与您的框架和代理服务器配合,请参见 Azure Databricks 上的部署代理。

代理运行时所提供的内容

  • 一个稳定且认证的端点:每个部署都是带有自身URL的 agent-bricks-<name> 应用。 客户端使用 Azure Databricks OAuth 令牌进行身份验证。 参见 部署在 Azure Databricks 上的查询代理。
  • 代理身份:代理作为应用的服务主体运行。 参见 代理身份。
  • 持久执行:对于使用 DurableAgentServer的代理,部署会配置运行时存储,使运行状态能够在工人重启和中断运行时保持。
  • 追踪:部署将 MLflow 追踪配置到项目绑定的实验中。 详见 追踪概述。
  • 扩展:在多个实例上大规模运行一个代理。 参见 Databricks应用的水平缩放。

代理身份

代理的身份是其部署到的应用的服务主体。 智能体使用该标识调用 Azure Databricks API,并运行你使用 --auth app 添加的工具。

  • 部署时,agentbricks deploy 会授予服务主体对代理使用的内存、会话和运行状态存储的访问权限。
  • 要让代理访问其他数据和资源,就像对待任何应用一样,授予应用的服务主体所需的权限。 请参阅 Databricks 应用中配置授权。
  • 使用 auth = "user" 的工具以发送请求的用户的权限运行,而不是以服务主体的权限运行。 参见 请求用户授权。

Prerequisites

  • 安装 Databricks CLI、Python 3.11 或更高版本,以及 uv。

  • 安装 Agent Bricks CLI:

    uv tool install databricks-agentbricks
    
  • 登录您的工作区。 agentbricks login 将该配置文件保存为默认配置文件,因此后续命令可省略 --profile:

    databricks auth login --host <workspace-url> --profile <profile>
    agentbricks login --profile <profile>
    
  • 创建一个智能体项目并切换到其目录:

    agentbricks init my-agent
    cd my-agent
    

部署智能体

使用 Agent Bricks CLI 部署代理项目。

从项目目录中部署

要部署代理,请从项目目录中运行以下命令:

agentbricks deploy my-agent

要部署到非默认工作区,请传递 --profile <profile>。

项目目录中包含 agent.toml 和 app.yaml。 如果你从其他目录运行 agentbricks deploy ,它会上传那个目录。 要从另一个目录部署项目,请传递 --source <dir>。

传递给 agentbricks deploy 的参数是部署名称,最多 17 个字符。 应用程序名为 agent-bricks-<name>,因此此示例创建 agent-bricks-my-agent。 首次部署会将该名称记录在 agent.toml 中,因此后续从项目部署时可以省略它。

首次部署需要几分钟。 当代理回答请求时,命令结束。

agentbricks deploy 可以做以下操作:

  1. 创建或重用在 agent.toml 中声明的内存和会话存储,并授予应用服务主体访问它们的权限。
  2. 对于使用 DurableAgentServer 的代理,会创建或重用该部署的 Runtime Store。
  3. 配置跟踪。
  4. 部署应用。

要在多个实例上运行代理,需传入 --instances:

agentbricks deploy my-agent --instances 2

当代理在多个实例上运行时,客户端可以在 X-Routing-Key 标头中发送会话 ID,将会话中的所有请求路由到同一实例。

无需等待即可部署

如果脚本或编码代理有短命令超时,请不等待部署,然后在单独命令中等待部署:

agentbricks deploy my-agent --no-wait
agentbricks deployments wait agent-bricks-my-agent

--no-wait 运行快速检查,然后在后台进程中完成部署。 agentbricks deployments wait 默认等待最多 100 秒。 要更改限制,请传递--timeout。 命令以以下代码之一退出:

  • 0:代理已部署并响应请求。
  • 1:部署失败了。
  • 75: 代理仍在部署中。 再次运行命令 。

从项目目录运行 agentbricks deployments wait ,或传递 --source <dir>。

管理部署

命令 Description
agentbricks deployments list 列出你的代理部署情况。
agentbricks deployments get <app-name> 显示部署的URL、状态和描述。
agentbricks deployments wait [<app-name>] 等待部署完成。 默认使用 agent.toml 中记录的部署。
agentbricks deployments logs <app-name> 显示某个部署的日志。
agentbricks deployments start <app-name> 开始部署。
agentbricks deployments stop <app-name> 停止部署。 除非你通过 --yes,否则会要求确认。
agentbricks deployments delete <app-name> 删除部署。 除非传递 --yes,否则会要求确认。

因为每次部署都是一个应用,你也可以在 Databricks Apps 中查看和监控它。 请参阅 Databricks 应用的日志记录和监视。

Limitations

你不能更改现有部署的代理服务器。 要切换服务器,使用你想要的 agentbricks init --server 选项创建一个新项目,并部署在新名称下。

其他资源