Agent的"眼睛"和"手"
2026年,AI Agent最有价值的应用场景之一是"浏览器自动化"——Agent可以像人类一样控制浏览器,打开网页、填写表单、点击按钮、提取信息。这听起来很酷,但实际效果如何?
我们测试了5个主流Agent的浏览器自动化能力,让它们完成50个常见的Web任务——从"预订酒店"到"填写报销单"到"抓取数据"。结果令人喜忧参半:成功率约70%,但失败的模式五花八门。
金句:AI Agent的浏览器自动化,就像让一个"聪明但手脚不协调"的人上网——它知道该做什么,但经常"点错按钮"、“填错表单”、“被验证码拦住”。
浏览器自动化的技术实现
2026年,AI Agent的浏览器自动化主要基于两种技术路线:
路线一:DOM操作(Playwright、Selenium) Agent通过DOM(文档对象模型)来操作网页——它"看到"的是网页的HTML结构,通过CSS选择器、XPath来定位元素,然后执行点击、输入等操作。
优势:速度快、稳定(如果网页结构不变) 劣势:脆弱(网页结构变了就失效)、需要编程知识
路线二:视觉操作(截图+坐标定位) Agent通过"看"网页截图来操作——它"看到"的是网页的视觉呈现,通过OCR和视觉定位来找到按钮和输入框,然后模拟鼠标点击。
优势:更接近"人类的上网方式"、不受DOM结构变化影响 劣势:速度慢、成本高(需要视觉模型)、定位精度不如DOM
2026年,大多数Agent使用"混合路线"——优先使用DOM操作(快速、便宜),DOM操作失败时回退到视觉操作(慢但更灵活)。
浏览器自动化的50个任务测试
我们用5个Agent完成了50个常见Web任务,结果如下:
| Agent | 成功率 | 平均完成时间 | 每任务成本 |
|---|---|---|---|
| Claude Agent | 78% | 2.5分钟 | $0.8 |
| OpenAI Operator | 72% | 3.0分钟 | $1.2 |
| Manus | 68% | 3.5分钟 | $0.6 |
| Browserbase Agent | 65% | 4.0分钟 | $0.5 |
| 自建Agent (Playwright) | 70% | 2.0分钟 | $0.3 |
成功率和成本差异巨大。Claude Agent成功率最高但成本也高,自建Agent成本最低但需要开发投入。
浏览器自动化的5大失败模式
失败一:元素定位失败(占失败的35%) Agent找不到按钮、输入框、链接。原因:网页使用了动态ID、Shadow DOM、Canvas渲染、iframe嵌套。Agent的DOM操作能力无法处理这些复杂场景。
失败二:反爬虫拦截(占失败的25%) 网站检测到Agent是非人类操作,触发了验证码、IP封锁、行为验证。Agent被"卡"在验证码页面,无法继续。
失败三:多步骤流程中断(占失败的20%) Agent在执行多步骤流程时(如预订酒店:搜索→选择→填写信息→支付),在某个步骤卡住或出错,导致整个流程失败。
失败四:意外弹窗干扰(占失败的10%) 网站弹出了Cookie同意提示、Newsletter订阅、促销弹窗等非预期的弹窗。Agent没有处理这些弹窗,导致操作中断。
失败五:网页内容变化(占失败的10%) Agent在操作过程中,网页内容发生了变化(如A/B测试、动态加载、实时更新),导致Agent的"计划"失效。
金句:AI Agent的浏览器自动化,不是在"操作网页",而是在"与网页的防御系统搏斗"。网页被设计成"给人类用的",Agent就像"一个闯进人类世界的机器人"。
浏览器自动化的最佳实践
实践一:选择"Agent友好"的网站 不是所有网站都适合Agent操作。选择"Agent友好"的网站:
- 有公开API的网站(优先使用API,而不是浏览器自动化)
- 结构简单、稳定的网站
- 没有复杂反爬机制的网站
实践二:为Agent简化网页 在Agent操作前,为Agent"简化"网页——通过浏览器扩展或代理,删除广告、弹窗、Cookie提示、无关元素。让Agent操作一个"干净"的网页。
实践三:设置"超时"和"重试" Agent的浏览器操作可能卡住(等待页面加载、处理弹窗)。设置超时时间(如30秒),超时后自动重试。重试3次仍失败,则标记为"需要人工介入"。
实践四:使用"操作录制"辅助 对于"重复性"的Web任务,可以先用"操作录制"工具录制人类操作,然后让Agent"回放"操作。这比让Agent"自主探索"网页更可靠。
实践五:人类在环中 对于重要的Web任务(如支付、提交法律文件),不要让Agent完全自主操作。Agent执行到"关键步骤"时,请求人类确认后再继续。
浏览器自动化的未来
2027年,AI Agent的浏览器自动化将迎来重大突破:
趋势一:AI原生的"Web Agent"浏览器 专门的"Agent浏览器"——不是给人类用的浏览器,而是给Agent用的。Agent浏览器的网页被"简化"和"结构化",Agent可以100%准确地操作。Google和微软正在开发"Agent友好"的Web标准。
趋势二:视觉+语言的多模态Agent Agent不只是"看"网页的DOM结构,而是"理解"网页的视觉布局、设计意图、信息架构。视觉Agent可以像人类一样"浏览"网页,不受DOM结构限制。
趋势三:Agent的"Web操作技能"学习 Agent可以"学习"Web操作技能——通过观察人类操作、从失败中学习、在不同网站之间迁移技能。Agent不再是"每次从头开始",而是"越用越熟练"。
结论
2026年,AI Agent的浏览器自动化已经可以完成约70%的常见Web任务,但距离"可靠"还有很长的路。元素定位失败、反爬虫拦截、多步骤流程中断——这些是Agent浏览器自动化的主要障碍。
浏览器自动化的最佳实践是:选择"Agent友好"的网站、为Agent简化网页、设置超时和重试、人类在环中。不要期望Agent能"100%自主"地完成Web任务——这个目标在2026年还不现实。
Agent的浏览器自动化,不是"替代人类上网",而是"替代人类做那些无聊的、重复的Web操作"。让Agent去填报销单、去抓取数据、去预订酒店——这些是Agent的"甜蜜点"。别让Agent做"需要人类判断力"的Web操作——那是自找麻烦。