Hermes-agent

This commit is contained in:
Zakaria
2026-06-14 14:30:48 -04:00
commit dac4b88b94
5058 changed files with 1884848 additions and 0 deletions
@@ -0,0 +1,627 @@
---
title: 浏览器自动化
description: 通过多种提供商控制浏览器,支持通过 CDP 连接本地 Chromium 系浏览器或云端浏览器,用于网页交互、表单填写、数据抓取等场景。
sidebar_label: Browser
sidebar_position: 5
---
# 浏览器自动化
Hermes Agent 内置完整的浏览器自动化工具集,支持多种后端选项:
- **Browserbase 云端模式** — 通过 [Browserbase](https://browserbase.com) 使用托管云端浏览器及反机器人工具
- **Browser Use 云端模式** — 通过 [Browser Use](https://browser-use.com) 作为备选云端浏览器提供商
- **Firecrawl 云端模式** — 通过 [Firecrawl](https://firecrawl.dev) 使用内置抓取功能的云端浏览器
- **Camofox 本地模式** — 通过 [Camofox](https://github.com/jo-inc/camofox-browser) 实现本地反检测浏览(基于 Firefox 的指纹伪装)
- **本地 Chromium 系 CDP** — 使用 `/browser connect` 将浏览器工具连接到本地运行的 Chrome、Brave、Chromium 或 Edge 实例
- **本地浏览器模式** — 通过 `agent-browser` CLI 和本地 Chromium 安装运行
所有模式下,Agent 均可导航网站、与页面元素交互、填写表单并提取信息。
## 概述
页面以**无障碍树**accessibility tree,基于文本的快照)表示,非常适合 LLM Agent 使用。交互元素会获得引用 ID(如 `@e1``@e2`),Agent 通过这些 ID 执行点击和输入操作。
核心能力:
- **多提供商云端执行** — Browserbase、Browser Use 或 Firecrawl — 无需本地浏览器
- **本地 Chromium 系集成** — 通过 CDP 连接正在运行的 Chrome、Brave、Chromium 或 Edge 浏览器,实现实时操控
- **内置隐身功能** — 随机指纹、CAPTCHA 解决、住宅代理(Browserbase
- **会话隔离** — 每个任务拥有独立的浏览器会话
- **自动清理** — 非活跃会话在超时后自动关闭
- **视觉分析** — 截图 + AI 分析,实现视觉理解
## 配置
:::tip Nous 订阅用户
如果您拥有付费 [Nous Portal](https://portal.nousresearch.com) 订阅,可通过 **[Tool Gateway](tool-gateway.md)** 使用浏览器自动化功能,无需单独的 API 密钥。新安装可运行 `hermes setup --portal` 登录并一次性开启所有 gateway 工具;已有安装可通过 `hermes model``hermes tools` 选择 **Nous Subscription** 作为浏览器提供商。
:::
### Browserbase 云端模式
要使用 Browserbase 托管的云端浏览器,请添加:
```bash
# Add to ~/.hermes/.env
BROWSERBASE_API_KEY=***
BROWSERBASE_PROJECT_ID=your-project-id-here
```
在 [browserbase.com](https://browserbase.com) 获取您的凭据。
### Browser Use 云端模式
要使用 Browser Use 作为云端浏览器提供商,请添加:
```bash
# Add to ~/.hermes/.env
BROWSER_USE_API_KEY=***
```
在 [browser-use.com](https://browser-use.com) 获取 API 密钥。Browser Use 通过 REST API 提供云端浏览器。若同时设置了 Browserbase 和 Browser Use 凭据,Browserbase 优先。
### Firecrawl 云端模式
要使用 Firecrawl 作为云端浏览器提供商,请添加:
```bash
# Add to ~/.hermes/.env
FIRECRAWL_API_KEY=fc-***
```
在 [firecrawl.dev](https://firecrawl.dev) 获取 API 密钥,然后选择 Firecrawl 作为浏览器提供商:
```bash
hermes setup tools
# → Browser Automation → Firecrawl
```
可选配置:
```bash
# Self-hosted Firecrawl instance (default: https://api.firecrawl.dev)
FIRECRAWL_API_URL=http://localhost:3002
# Session TTL in seconds (default: 300)
FIRECRAWL_BROWSER_TTL=600
```
### 混合路由:公网 URL 使用云端,LAN/localhost 使用本地
配置云端提供商后,Hermes 会为解析到私有/回环/LAN 地址的 URL(`localhost``127.0.0.1``192.168.x.x``10.x.x.x``172.16-31.x.x``*.local``*.lan``*.internal`、IPv6 回环 `::1`、链路本地 `169.254.x.x`)自动启动一个**本地 Chromium 辅助进程**。公网 URL 在同一对话中继续使用云端提供商。
这解决了常见的"本地开发但使用 Browserbase"场景 — Agent 可以截取 `http://localhost:3000` 上的仪表盘,同时抓取 `https://github.com`,无需切换提供商或禁用 SSRF 防护。云端提供商永远不会看到私有 URL。
该功能**默认开启**。如需禁用(所有 URL 均走已配置的云端提供商,与之前行为一致):
```yaml
# ~/.hermes/config.yaml
browser:
cloud_provider: browserbase
auto_local_for_private_urls: false
```
禁用自动路由后,私有 URL 将被拒绝并返回 `"Blocked: URL targets a private or internal address"`,除非同时设置 `browser.allow_private_urls: true`(允许云端提供商尝试访问,但通常无法成功,因为 Browserbase 等无法访问您的 LAN)。
要求:本地辅助进程使用与纯本地模式相同的 `agent-browser` CLI,因此需要先安装(`hermes setup tools → Browser Automation` 会自动安装)。从公网 URL 导航后重定向到私有地址的情况仍会被阻止(无法通过公网路径的重定向访问 LAN)。
### Camofox 本地模式
[Camofox](https://github.com/jo-inc/camofox-browser) 是一个自托管的 Node.js 服务器,封装了 Camoufox(一个带有 C++ 指纹伪装的 Firefox 分支)。它无需云端依赖即可提供本地反检测浏览。
```bash
# Clone the Camofox browser server first
git clone https://github.com/jo-inc/camofox-browser
cd camofox-browser
# Build and start with Docker using the default container settings
# (auto-detects arch: aarch64 on M1/M2, x86_64 on Intel)
make up
# Stop and remove the default container
make down
# Force a clean rebuild (for example, after upgrading VERSION/RELEASE)
make reset
# Just download binaries without building
make fetch
# Override arch or version explicitly
make up ARCH=x86_64
make up VERSION=135.0.1 RELEASE=beta.24
```
`make up` 会立即启动默认容器。如需自定义运行时设置(如更大的 Node 堆内存、VNC 或持久化 profile 目录),请先构建镜像再手动运行:
```bash
# Build the image without starting the default container
make build
# Start with persistence, VNC live view, and a larger Node heap
mkdir -p ~/.camofox-docker
docker run -d \
--name camofox-browser \
--restart unless-stopped \
-p 9377:9377 \
-p 6080:6080 \
-p 5901:5900 \
-e CAMOFOX_PORT=9377 \
-e ENABLE_VNC=1 \
-e VNC_BIND=0.0.0.0 \
-e VNC_RESOLUTION=1920x1080 \
-e MAX_OLD_SPACE_SIZE=2048 \
-v ~/.camofox-docker:/root/.camofox \
camofox-browser:135.0.1-aarch64
```
启用 VNC 后,浏览器以有头模式运行,可在浏览器中通过 `http://localhost:6080`(noVNC)实时查看。也可使用原生 VNC 客户端连接 `localhost:5901`
如果已运行过 `make up`,请在启动自定义容器前先停止并删除默认容器:
```bash
make down
# then run the custom docker run command above
```
然后在 `~/.hermes/.env` 中设置:
```bash
CAMOFOX_URL=http://localhost:9377
```
或通过 `hermes tools` → Browser Automation → Camofox 进行配置。
设置 `CAMOFOX_URL` 后,所有浏览器工具将自动通过 Camofox 路由,而非 Browserbase 或 agent-browser。
#### 持久化浏览器会话
默认情况下,每个 Camofox 会话使用随机身份 — Cookie 和登录状态不会在 Agent 重启后保留。要启用持久化浏览器会话,请在 `~/.hermes/config.yaml` 中添加:
```yaml
browser:
camofox:
managed_persistence: true
```
然后完全重启 Hermes 以使新配置生效。
:::warning 嵌套路径很重要
Hermes 读取的是 `browser.camofox.managed_persistence`**而非**顶层的 `managed_persistence`。常见错误写法:
```yaml
# ❌ Wrong — Hermes ignores this
managed_persistence: true
```
如果该标志放在错误的路径下,Hermes 会静默回退到随机临时 `userId`,您的登录状态将在每次会话后丢失。
:::
##### Hermes 的行为
- 向 Camofox 发送确定性的 profile 范围 `userId`,使服务器能够跨会话复用同一 Firefox profile。
- 在清理时跳过服务端 context 销毁,使 Cookie 和登录状态在 Agent 任务间保留。
-`userId` 限定在当前 Hermes profile 范围内,不同 Hermes profile 对应不同浏览器 profileprofile 隔离)。
##### Hermes 不做的事
- 不会强制 Camofox 服务器持久化。Hermes 只发送稳定的 `userId`;服务器必须通过将该 `userId` 映射到持久化 Firefox profile 目录来支持它。
- 如果您的 Camofox 服务器构建将每个请求视为临时的(例如始终调用 `browser.newContext()` 而不加载已存储的 profile),Hermes 无法使这些会话持久化。请确保运行的 Camofox 版本实现了基于 userId 的 profile 持久化。
##### 验证是否正常工作
1. 启动 Hermes 和 Camofox 服务器。
2. 在浏览器任务中打开 Google(或任意登录网站)并手动登录。
3. 正常结束浏览器任务。
4. 开始新的浏览器任务。
5. 再次打开同一网站 — 应仍处于登录状态。
如果第 5 步退出了登录,说明 Camofox 服务器未遵守稳定的 `userId`。请检查配置路径,确认编辑 `config.yaml` 后已完全重启 Hermes,并验证您的 Camofox 服务器版本是否支持基于用户的持久化 profile。
##### 状态存储位置
Hermes 从 profile 范围目录 `~/.hermes/browser_auth/camofox/`(非默认 profile 则在 `$HERMES_HOME` 下的对应位置)派生稳定的 `userId`。实际浏览器 profile 数据存储在 Camofox 服务器端,以该 `userId` 为键。要完全重置持久化 profile,请在 Camofox 服务器端清除对应数据,并删除相应 Hermes profile 的状态目录。
#### 外部管理的 Camofox 会话
当另一个应用驱动可见的 Camofox 浏览器(桌面助手、自定义集成、另一个 Agent)时,可配置 Hermes 在同一身份下运行,而非启动独立的隔离 profile。
三个参数控制行为:
| 设置 | 环境变量 | 效果 |
|---------|---------|--------|
| `browser.camofox.user_id` | `CAMOFOX_USER_ID` | Hermes 创建标签页时使用的 Camofox `userId`。设置此项即进入"外部管理"模式。 |
| `browser.camofox.session_key` | `CAMOFOX_SESSION_KEY` | 创建标签页时发送的 `sessionKey`(即 `listItemId`)。用于接管时匹配已有标签页。未设置时默认为每任务值。 |
| `browser.camofox.adopt_existing_tab` | `CAMOFOX_ADOPT_EXISTING_TAB` | 为 true 时,Hermes 在首次使用时调用 `GET /tabs?userId=<user_id>` 并优先复用已有标签页,而非新建。 |
环境变量优先于 `config.yaml`。两种形式均可:
```yaml
browser:
camofox:
user_id: shared-camofox
session_key: visible-tab
adopt_existing_tab: true
```
```bash
CAMOFOX_USER_ID=shared-camofox
CAMOFOX_SESSION_KEY=visible-tab
CAMOFOX_ADOPT_EXISTING_TAB=true
```
**设置 `user_id` 后的变化:**
- Hermes 在任务结束时跳过破坏性清理(与 `managed_persistence: true` 相同)。其他应用的标签页/Cookie/profile 得以保留。
- Hermes **不会**调用 `DELETE /sessions/<user_id>` — 该端点会清除所有用户数据,若触发将销毁外部应用的会话。
**标签页接管的工作方式(当 `adopt_existing_tab: true` 时):**
1. 进程启动后首次调用浏览器工具时,Hermes 发出 `GET /tabs?userId=<user_id>`5 秒超时)。
2. 若响应中有标签页的 `listItemId == session_key`,Hermes 接管该组中最近创建的一个。
3. 否则,Hermes 接管该用户最近创建的标签页(任意 `listItemId`)。
4. 若无标签页或请求失败,Hermes 在下次操作时回退到新建标签页。
接管仅在会话的 `tab_id` 填充之前触发一次。若外部应用在运行中关闭了被接管的标签页,下次浏览器工具调用将返回 Camofox 错误 — Hermes 不会在每次调用时重新轮询新标签页。
**选择 `session_key`** 若要 Hermes 可靠地附加到*特定*已有标签页,请将 `session_key` 设置为外部应用创建该标签页时使用的 `listItemId`。若只设置 `user_id` 而不设置 `session_key`Hermes 会生成每任务的 `session_key``task_<id>`)— Hermes 将与外部应用共享 Cookie 和 profile,但会并排打开自己的标签页而非复用已有标签页。
**并发说明:** 外部应用和 Hermes 可同时驱动同一 Camofox `userId`,但 Camofox 不会在客户端之间协调每个标签页的焦点。请在应用层协调所有权(例如,Hermes 运行时外部应用暂停)。
#### VNC 实时查看
当 Camofox 以有头模式运行(带可见浏览器窗口)时,其健康检查响应中会暴露 VNC 端口。Hermes 自动发现此信息,并在导航响应中包含 VNC URL,Agent 可分享链接供您实时查看浏览器。
### 通过 CDP 连接本地 Chromium 系浏览器(`/browser connect`
除云端提供商外,您还可以通过 Chrome DevTools ProtocolCDP)将 Hermes 浏览器工具连接到本地运行的 Chrome、Brave、Chromium 或 Edge 实例。当您希望实时查看 Agent 操作、与需要自身 Cookie/会话的页面交互,或避免云端浏览器费用时,此方式非常有用。
:::note
`/browser connect` 是**交互式 CLI 斜杠命令** — 不由 gateway 分发。若在 WebUI、Telegram、Discord 或其他 gateway 聊天中尝试运行,消息将作为纯文本发送给 Agent,命令不会执行。请从终端启动 Hermes(`hermes``hermes chat`)并在那里执行 `/browser connect`
:::
在 CLI 中使用:
```
/browser connect # Auto-launch/connect to a local Chromium-family browser at http://127.0.0.1:9222
/browser connect ws://host:port # Connect to a specific CDP endpoint
/browser status # Check current connection
/browser disconnect # Detach and return to cloud/local mode
```
若浏览器尚未以远程调试模式运行,Hermes 将尝试自动启动支持的 Chromium 系浏览器并使用 `--remote-debugging-port=9222`。检测范围包括 Brave、Google Chrome、Chromium 和 Microsoft Edge,以及常见 Linux 安装路径(如 `/opt/brave-bin/brave``/snap/bin/brave`)。
:::tip
要手动启动带 CDP 的 Chromium 系浏览器,请使用专用的 user-data-dir,确保即使浏览器已以普通 profile 运行,调试端口也能正常开启:
```bash
# Linux — Brave
brave-browser \
--remote-debugging-port=9222 \
--user-data-dir=$HOME/.hermes/chrome-debug \
--no-first-run \
--no-default-browser-check &
# Linux — Google Chrome
google-chrome \
--remote-debugging-port=9222 \
--user-data-dir=$HOME/.hermes/chrome-debug \
--no-first-run \
--no-default-browser-check &
# macOS — Brave
"/Applications/Brave Browser.app/Contents/MacOS/Brave Browser" \
--remote-debugging-port=9222 \
--user-data-dir="$HOME/.hermes/chrome-debug" \
--no-first-run \
--no-default-browser-check &
# macOS — Google Chrome
"/Applications/Google Chrome.app/Contents/MacOS/Google Chrome" \
--remote-debugging-port=9222 \
--user-data-dir="$HOME/.hermes/chrome-debug" \
--no-first-run \
--no-default-browser-check &
```
然后启动 Hermes CLI 并运行 `/browser connect`
**为什么需要 `--user-data-dir`** 若不指定,在普通实例已运行时启动 Chromium 系浏览器通常只会在现有进程上打开新窗口 — 而该进程启动时未带 `--remote-debugging-port`,因此端口 9222 永远不会开启。专用的 user-data-dir 会强制启动新的浏览器进程,使调试端口正常监听。`--no-first-run --no-default-browser-check` 跳过新 profile 的首次启动向导。
:::
通过 CDP 连接后,所有浏览器工具(`browser_navigate``browser_click` 等)将在您的实时浏览器实例上运行,而非启动云端会话。
### WSL2 + Windows Chrome:优先使用 MCP 而非 `/browser connect`
若 Hermes 在 WSL2 内运行,但您想控制的 Chrome 窗口在 Windows 宿主机上,`/browser connect` 通常不是最佳方案。
原因:
- `/browser connect` 要求 Hermes 本身能访问可用的 CDP 端点
- 现代 Chrome 实时调试会话通常暴露仅宿主机本地可访问的端点,WSL 无法像访问经典 `9222` 端口那样直接访问
- 即使 Windows Chrome 可调试,最简洁的集成方式通常是让 Windows 侧的浏览器 MCP 服务器连接 Chrome,再让 Hermes 与该 MCP 服务器通信
对于此场景,建议通过 Hermes MCP 支持使用 `chrome-devtools-mcp`
具体配置请参阅 MCP 指南:
- [在 Hermes 中使用 MCP](../../guides/use-mcp-with-hermes.md#wsl2-bridge-hermes-in-wsl-to-windows-chrome)
### 本地浏览器模式
若**未**设置任何云端凭据且未使用 `/browser connect`Hermes 仍可通过由 `agent-browser` 驱动的本地 Chromium 安装使用浏览器工具。
### 可选环境变量
```bash
# Residential proxies for better CAPTCHA solving (default: "true")
BROWSERBASE_PROXIES=true
# Advanced stealth with custom Chromium — requires Scale Plan (default: "false")
BROWSERBASE_ADVANCED_STEALTH=false
# Session reconnection after disconnects — requires paid plan (default: "true")
BROWSERBASE_KEEP_ALIVE=true
# Custom session timeout in milliseconds (default: project default)
# Examples: 600000 (10min), 1800000 (30min)
BROWSERBASE_SESSION_TIMEOUT=600000
# Inactivity timeout before auto-cleanup in seconds (default: 120)
BROWSER_INACTIVITY_TIMEOUT=120
# Extra Chromium launch flags (comma- or newline-separated). Hermes auto-injects
# `--no-sandbox,--disable-dev-shm-usage` when it detects root or AppArmor-restricted
# unprivileged user namespaces (Ubuntu 23.10+, DGX Spark, many container images),
# so most users don't need to set this. Set it manually only if you need a flag
# Hermes doesn't add automatically; setting it disables the auto-injection.
AGENT_BROWSER_ARGS=--no-sandbox
```
### 安装 agent-browser CLI
```bash
npm install -g agent-browser
# Or install locally in the repo:
npm install
```
:::info
`browser` 工具集必须包含在配置的 `toolsets` 列表中,或通过 `hermes config set toolsets '["hermes-cli", "browser"]'` 启用。
:::
## 可用工具
### `browser_navigate`
导航到指定 URL。必须在其他任何浏览器工具之前调用。初始化 Browserbase 会话。
```
Navigate to https://github.com/NousResearch
```
:::tip
对于简单的信息检索,优先使用 `web_search``web_extract` — 它们更快且成本更低。仅在需要**与页面交互**(点击按钮、填写表单、处理动态内容)时使用浏览器工具。
:::
### `browser_snapshot`
获取当前页面无障碍树的文本快照。返回带有引用 ID(如 `@e1``@e2`)的交互元素,供 `browser_click``browser_type` 使用。
- **`full=false`**(默认):仅显示交互元素的紧凑视图
- **`full=true`**:完整页面内容
超过 8000 字符的快照将由 LLM 自动摘要。
### `browser_click`
点击快照中由引用 ID 标识的元素。
```
Click @e5 to press the "Sign In" button
```
### `browser_type`
向输入框输入文本。先清空字段,再输入新文本。
```
Type "hermes agent" into the search field @e3
```
### `browser_scroll`
向上或向下滚动页面以显示更多内容。
```
Scroll down to see more results
```
### `browser_press`
按下键盘按键。适用于提交表单或导航。
```
Press Enter to submit the form
```
支持的按键:`Enter``Tab``Escape``ArrowDown``ArrowUp` 等。
### `browser_back`
在浏览器历史记录中返回上一页。
### `browser_get_images`
列出当前页面上所有图片及其 URL 和 alt 文本。适用于查找需要分析的图片。
### `browser_vision`
截图并使用视觉 AI 进行分析。当文本快照无法捕获重要视觉信息时使用 — 尤其适用于 CAPTCHA、复杂布局或视觉验证挑战。
截图会持久保存,文件路径与 AI 分析结果一并返回。在消息平台(Telegram、Discord、Slack、WhatsApp)上,您可以要求 Agent 分享截图 — 它将通过 `MEDIA:` 机制作为原生图片附件发送。
```
What does the chart on this page show?
```
截图存储在 `~/.hermes/cache/screenshots/`24 小时后自动清理。
### `browser_console`
获取当前页面的浏览器控制台输出(log/warn/error 消息)及未捕获的 JavaScript 异常。对于检测无障碍树中不可见的静默 JS 错误至关重要。
```
Check the browser console for any JavaScript errors
```
使用 `clear=True` 可在读取后清空控制台,使后续调用只显示新消息。
`browser_console` 在带有 `expression` 参数调用时也可执行 JavaScript — 与 DevTools 控制台形式相同,结果以解析后的形式返回(JSON 序列化的对象变为 dict;原始值保持原始类型)。
```
browser_console(expression="document.querySelector('h1').textContent")
browser_console(expression="JSON.stringify(performance.timing)")
```
当当前会话存在活跃的 CDP 监督器时(通常适用于任何对 CDP 兼容后端运行过 `browser_navigate` 的会话),执行通过监督器的持久 WebSocket 进行 — 无子进程启动开销。否则回退到标准 agent-browser CLI 路径。两种方式行为完全相同,仅延迟有差异。
### `browser_cdp`
原始 Chrome DevTools Protocol 直通 — 用于其他工具未覆盖的浏览器操作的逃生舱口。适用于原生对话框处理、iframe 范围内的执行、Cookie/网络控制,或 Agent 需要的任何 CDP 命令。
**仅在会话启动时 CDP 端点可访问的情况下可用** — 即 `/browser connect` 已连接到运行中的 Chrome、Brave、Chromium 或 Edge 浏览器,或 `config.yaml` 中设置了 `browser.cdp_url`。默认本地 agent-browser 模式、Camofox 和云端提供商(Browserbase、Browser Use、Firecrawl)目前不向此工具暴露 CDP — 云端提供商有每会话 CDP URL,但实时会话路由是后续功能。
**CDP 方法参考:** https://chromedevtools.github.io/devtools-protocol/ — Agent 可通过 `web_extract` 访问特定方法页面以查阅参数和返回结构。
常见用法:
```
# List tabs (browser-level, no target_id)
browser_cdp(method="Target.getTargets")
# Handle a native JS dialog on a tab
browser_cdp(method="Page.handleJavaScriptDialog",
params={"accept": true, "promptText": ""},
target_id="<tabId>")
# Evaluate JS in a specific tab
browser_cdp(method="Runtime.evaluate",
params={"expression": "document.title", "returnByValue": true},
target_id="<tabId>")
# Get all cookies
browser_cdp(method="Network.getAllCookies")
```
浏览器级方法(`Target.*``Browser.*``Storage.*`)省略 `target_id`。页面级方法(`Page.*``Runtime.*``DOM.*``Emulation.*`)需要来自 `Target.getTargets``target_id`。每次无状态调用相互独立 — 调用间不保留会话状态。
**跨域 iframe** 传入 `frame_id`(来自 `browser_snapshot.frame_tree.children[]``is_oopif=true` 的条目)可通过监督器的实时会话路由该 iframe 的 CDP 调用。这是在 Browserbase 上对跨域 iframe 执行 `Runtime.evaluate` 的方式,避免无状态 CDP 连接遭遇签名 URL 过期问题。示例:
```
browser_cdp(
method="Runtime.evaluate",
params={"expression": "document.title", "returnByValue": True},
frame_id="<frame_id from browser_snapshot>",
)
```
同域 iframe 无需 `frame_id` — 在顶层 `Runtime.evaluate` 中使用 `document.querySelector('iframe').contentDocument` 即可。
### `browser_dialog`
响应原生 JS 对话框(`alert` / `confirm` / `prompt` / `beforeunload`)。在此工具出现之前,对话框会静默阻塞页面的 JavaScript 线程,后续 `browser_*` 调用会挂起或抛出异常;现在 Agent 可在 `browser_snapshot` 输出中看到待处理对话框并显式响应。
**工作流程:**
1. 调用 `browser_snapshot`。若对话框正在阻塞页面,将显示为 `pending_dialogs: [{"id": "d-1", "type": "alert", "message": "..."}]`
2. 调用 `browser_dialog(action="accept")``browser_dialog(action="dismiss")`。对于 `prompt()` 对话框,传入 `prompt_text="..."` 提供响应内容。
3. 重新快照 — `pending_dialogs` 为空;页面 JS 线程已恢复。
**检测通过持久 CDP 监督器自动进行** — 每个任务一个 WebSocket,订阅 Page/Runtime/Target 事件。监督器还会在快照中填充 `frame_tree` 字段,使 Agent 可查看当前页面的 iframe 结构,包括跨域(OOPIFiframe。
**可用性矩阵:**
| 后端 | 通过 `pending_dialogs` 检测 | 响应(`browser_dialog` 工具) |
|---|---|---|
| 通过 `/browser connect``browser.cdp_url` 连接的本地 Chrome | ✓ | ✓ 完整工作流 |
| Browserbase | ✓ | ✓ 完整工作流(通过注入的 XHR 桥接) |
| Camofox / 默认本地 agent-browser | ✗ | ✗(无 CDP 端点) |
**在 Browserbase 上的工作原理。** Browserbase 的 CDP 代理会在约 10ms 内在服务端自动关闭真实的原生对话框,因此无法使用 `Page.handleJavaScriptDialog`。监督器通过 `Page.addScriptToEvaluateOnNewDocument` 注入一段小脚本,将 `window.alert`/`confirm`/`prompt` 替换为同步 XHR。我们通过 `Fetch.enable` 拦截这些 XHR — 页面 JS 线程在 XHR 上保持阻塞,直到我们用 Agent 的响应调用 `Fetch.fulfillRequest``prompt()` 的返回值原样传回页面 JS。
**对话框策略**在 `config.yaml``browser.dialog_policy` 下配置:
| 策略 | 行为 |
|--------|----------|
| `must_respond`(默认) | 捕获,在快照中显示,等待显式 `browser_dialog()` 调用。在 `browser.dialog_timeout_s`(默认 300 秒)后安全自动关闭,防止有问题的 Agent 永久阻塞。 |
| `auto_dismiss` | 捕获,立即关闭。Agent 仍可在 `browser_state` 历史中看到对话框,但无需操作。 |
| `auto_accept` | 捕获,立即接受。适用于导航带有频繁 `beforeunload` 提示的页面。 |
`browser_snapshot.frame_tree` 中的**帧树**上限为 30 帧、OOPIF 深度 2,以控制广告密集页面的负载大小。达到限制时会显示 `truncated: true` 标志;需要完整帧树的 Agent 可使用 `browser_cdp` 配合 `Page.getFrameTree`
## 实际示例
### 填写网页表单
```
User: Sign up for an account on example.com with my email john@example.com
Agent workflow:
1. browser_navigate("https://example.com/signup")
2. browser_snapshot() → sees form fields with refs
3. browser_type(ref="@e3", text="john@example.com")
4. browser_type(ref="@e5", text="SecurePass123")
5. browser_click(ref="@e8") → clicks "Create Account"
6. browser_snapshot() → confirms success
```
### 研究动态内容
```
User: What are the top trending repos on GitHub right now?
Agent workflow:
1. browser_navigate("https://github.com/trending")
2. browser_snapshot(full=true) → reads trending repo list
3. Returns formatted results
```
## 会话录制
自动将浏览器会话录制为 WebM 视频文件:
```yaml
browser:
record_sessions: true # default: false
```
启用后,录制在首次 `browser_navigate` 时自动开始,会话关闭时保存到 `~/.hermes/browser_recordings/`。本地模式和云端模式(Browserbase)均支持。超过 72 小时的录制文件自动清理。
## 隐身功能
Browserbase 提供自动隐身能力:
| 功能 | 默认状态 | 说明 |
|---------|---------|-------|
| 基础隐身 | 始终开启 | 随机指纹、视口随机化、CAPTCHA 解决 |
| 住宅代理 | 开启 | 通过住宅 IP 路由以提高访问成功率 |
| 高级隐身 | 关闭 | 自定义 Chromium 构建,需要 Scale 计划 |
| Keep Alive | 开启 | 网络中断后的会话重连 |
:::note
若付费功能在您的计划中不可用,Hermes 会自动降级 — 先禁用 `keepAlive`,再禁用代理 — 确保免费计划也能正常浏览。
:::
## 会话管理
- 每个任务通过 Browserbase 获得独立的浏览器会话
- 非活跃会话在超时后自动清理(默认:2 分钟)
- 后台线程每 30 秒检查一次过期会话
- 进程退出时执行紧急清理,防止孤立会话
- 通过 Browserbase API 释放会话(`REQUEST_RELEASE` 状态)
## 限制
- **基于文本的交互** — 依赖无障碍树,而非像素坐标
- **快照大小** — 大型页面可能在 8000 字符处被截断或由 LLM 摘要
- **会话超时** — 云端会话根据提供商计划设置过期
- **费用** — 云端会话消耗提供商额度;对话结束或非活跃后会话自动清理。使用 `/browser connect` 可免费本地浏览。
- **不支持文件下载** — 无法从浏览器下载文件