在Visual Studio Code中为受网络限制的环境配置自定义模型

在网络受限的环境中工作时,可以在 Visual Studio Code 中将自定义模型与 GitHub Copilot 现代化功能结合使用。 手动安装扩展和 AppCAT,然后将Visual Studio Code配置为使用环境可以访问的模型终结点。

无需为此工作流登录 GitHub Copilot。

Warning

你的源代码和评估上下文将发送到你配置的模型终结点。 自定义模型不能保证完全网络隔离,某些现代化功能仍需要网络访问。 你负责模型提供程序的安全和合规状况。

Prerequisites

  • Visual Studio Code。
  • 具有网络访问权限的计算机,可用于下载扩展和 AppCAT 包。
  • 将下载的包传输到受网络限制的计算机的方法。
  • 网络受限计算机可以访问的自定义模型终结点。
  • 终结点 URL、模型或部署名称,以及在终结点需要身份验证时所需的 API 密钥。

从 VSIX 安装扩展

在可联网的计算机上下载扩展包,然后将其安装在受网络限制的计算机上。

  1. 在连接的计算机上,在 Visual Studio Code 中打开 “扩展” 视图。

  2. 查找 GitHub Copilot 应用现代化扩展。

  3. 打开扩展的上下文菜单,然后选择“ 下载 VSIX”。

    显示 Visual Studio Code 扩展视图的屏幕截图,其中已为 GitHub Copilot 应用现代化扩展选择“下载 VSIX”。

  4. 将 VSIX 文件传输到受网络限制的计算机。

  5. 在受网络限制的计算机上,打开 “扩展” 视图。

  6. 选择“视图和更多操作”(...),然后选择“从 VSIX 安装...”。

    显示“Visual Studio Code扩展”视图的屏幕截图,其中选择了“从 VSIX 安装”。

  7. 选择传输的 VSIX 文件。

手动安装 AppCAT

扩展无法在无法访问公共网络的情况下自动下载 AppCAT。 在运行评估之前安装 AppCAT。

  1. 在连接的计算机上,转到 安装 AppCAT,并下载应用程序包。

  2. 将包传输到网络受限的计算机。

  3. 将包解压缩到 ~/.appcat.

  4. 验证 AppCAT 可执行文件是否位于以下位置之一:

    • Windows: ~/.appcat/appcat.exe
    • Linux 或 macOS: ~/.appcat/appcat
  5. 将 ~/.appcat 添加到系统 PATH。

  6. 重启Visual Studio Code。

Note

如果已安装的 AppCAT 版本与扩展所需的版本不匹配,则扩展会尝试下载另一个版本。 如果没有网络访问,下载会失败,评估可能无限期运行。 手动安装最新的 AppCAT 包以解决该问题。

添加自定义语言模型

  1. 按 Ctrl+Shift+P 打开命令面板。

  2. 运行聊天:管理语言模型。

    显示 Visual Studio Code 命令面板的屏幕截图,其中选中了“Chat: Manage Language Models”。

  3. 在 “语言模型” 对话框中,选择 “添加模型...”。

  4. 选择与终结点匹配的提供程序。 例如,选择Azure、OpenAI、OpenAI 兼容或自定义终结点。

  5. 输入提供程序所需的连接详细信息,包括模型名称、API 密钥和终结点。

  6. 验证模型是否显示在 语言模型下。

选择并测试自定义模型

  1. 在 Visual Studio Code 中打开Chat。

  2. 从 “选取模型” 列表中选择自定义模型。

    屏幕截图显示了Visual Studio Code聊天模型选取器,其中选择了自定义 Ollama 模型。

  3. 发送测试消息,并验证模型是否响应。

    显示Visual Studio Code聊天的屏幕截图,其中包含所选自定义模型的响应。

配置实用工具模型

GitHub Copilot 现代化功能将 Visual Studio Code 实用工具模型设置用于内置的实用工具流。

  1. 打开设置。

  2. 搜索 chat.utility。

  3. 将聊天:实用工具模型设置为自定义模型。

  4. 将 Chat: Utility Small Model 设置为自定义模型。

    显示Visual Studio Code设置的屏幕截图,其中选择了“聊天实用工具模型”和“聊天实用工具小型模型”的自定义模型。

运行评估并创建计划

  1. 打开 GitHub Copilot Modernization。
  2. 选择 “开始评估 ”或 “打开评估仪表板”。
  3. 运行评估,然后打开评估报告。
  4. 选择要解决的现代化调查结果。
  5. 选择“创建计划”。

该扩展将所选评估结果发送到聊天,并使用配置的模型调用现代化代理、工具和技能。

限制和已知问题

  • 安全评估域需要网络访问,在受网络限制的环境中不可用。
  • 扫描和解决安全问题 需要网络访问权限。
  • AppCAT 版本不匹配可能会触发自动下载,而该下载在无法访问公共网络时会失败。
  • 结果取决于自定义模型的功能。 不支持所需工具或上下文的模型可能无法完成工作流。
  • 配置自定义模型不提供完整的网络隔离。 使用网络控制来强制实施组织的出站要求。