电脑操作让 AI 智能体能看到屏幕并控制鼠标和键盘。了解它的运作方式、局限,以及它对 AI 搜索为何重要。

摘要
电脑操作是一项 AI 能力,它让模型通过截图看到屏幕,并控制虚拟的鼠标和键盘,从而像人一样操作任何应用,而不必只依赖专门的 API。
想深入了解?请询问
电脑操作是指 AI 模型把电脑屏幕当作视觉输入来感知,并以鼠标点击、按键和滚动对它采取行动的能力,就像一个人类操作者那样。它不需要为每项任务调用专门搭建的集成,而是看一眼屏幕上有什么,决定该做什么,执行动作,然后再看一眼。Anthropic 为 Claude 引入了这项能力,如今它已覆盖多个模型。
这一点之所以重要,是因为它拆除了自动化长期以来的一道限制:没有 API 的软件。只要一个人能在屏幕上完成某件事,具备电脑操作能力的模型也可以去尝试。对营销人员和创始人而言,这项能力也是一扇窗口,让我们看到 AI 智能体将如何越来越多地在全网浏览、调研和行动,而这直接影响着可见度。
电脑操作是一项能力,它赋予模型截图视觉,以及对桌面环境的鼠标和键盘控制。具体来说,它提供四项核心功能:截取屏幕截图以查看当前状态、移动和点击光标、输入文字和快捷键,以及与任何应用或界面交互。这些能力合在一起,就让模型能够直接驱动软件。
它与旧式自动化的区别在于,模型并不是在执行一个绑定单一程序、一碰就碎的脚本。它以视觉方式解读屏幕并随机应变,这也是为什么电脑操作与那些跨多个工具追求目标的AI 智能体密切相关。它是模型从文本生成器变成行动者的一种具体方式,建立在多模态 AI的基础之上。
它的机制是一个紧密的反馈循环。应用向模型发送一个开启了电脑操作工具的请求。模型要求一张截图来观察屏幕,分析这张图像,并返回一个具体动作,比如在某组坐标处点击或输入一段文字。应用执行该动作,再截一张新图发回去,如此循环,直到任务完成。
因为每一步都基于最新的屏幕状态,模型在遇到意外弹窗或版式变化时能够恢复,而不会直接失败。这种“感知、推理、行动、重复”的模式,与驱动智能体搜索和其他智能体工作流的逻辑完全一致,只不过这里面对的是图形界面而非一组查询。
屏幕控制很强大,但并不总是最精准的选择。一个常见的设计原则是“连接器优先,像素其次”:当日历或聊天工具这类服务存在专用连接器或 API 时,一个设计良好的智能体会优先使用它们,因为更快也更可靠;只有在没有连接器可用时,才回退到直接的屏幕控制。
这个优先顺序关乎可靠性。靠截图驱动界面,比调用一个干净的 API 更容易出错,所以电脑操作最好留给那些结构化集成填不了的空白。同样的逻辑也体现在模型上下文协议这类协议和结构化的函数调用中,它们在工具存在时给智能体提供了精准的手段。
Anthropic 最初在一个较早的 Claude 模型上以测试版发布了电脑操作,随后把支持扩展到了整个产品线,包括近期的 Opus、Sonnet 和 Haiku 模型。使用这项工具需要特定的测试版请求头,并且它可以与其他工具组合,构建更完整的自动化流程。
值得注意的是,能力并不只随模型体量增长:据报道,体量更小、速度更快的 Haiku 模型在电脑操作基准测试上超过了更大的模型,这让它在对成本敏感的大批量自动化场景中很有吸引力。这项能力由Anthropic为Claude提供,而类似的智能体浏览功能也正在更广阔的市场上涌现。
这项能力在那些没有干净 API 的跨应用工作中最为出色。典型任务包括:在不同网页应用中填写表单、端到端测试用户界面流程、把数据录入从一个系统搬到另一个系统、审阅文档以提取结构化信息,以及在桌面工具之间运行多步骤的自动化。简而言之,它处理的是系统之间那些琐碎的衔接工作。
它也延伸到网页任务:智能体可以导航站点、点击完成流程,并完成用户平时手动去做的操作。在 WebArena(一个针对真实网站自主导航的基准测试)上,据报道 Claude 在单智能体系统中取得了领先水平的成绩,这说明它在多步骤浏览器任务上确实有真本事。支撑智能体式AI 搜索的,正是同一种能力。
电脑操作让我们瞄见了一个智能体网络:由 AI 代替用户去浏览。随着智能体越来越多地在各个站点上导航、阅读和行动,品牌面临的问题从“一个人会不会落到您的页面上”,变成了“一个智能体能不能感知、解析并操作它”。干净的界面、清晰的结构和可访问的内容,帮助的不只是人类访客,还有智能体。
对生成式 AI 优化而言,实际的启示是:让您的网站对那些以视觉和程序方式操作它的机器可读。结构良好、加载快速、表达无歧义的页面,智能体更容易读懂也更容易使用,这会与更广泛的AI 搜索可见度工作背后的引用与可见度目标叠加。而稳健的关键词研究与内容规划,能确保智能体抵达的内容确实回答了手头的任务。
电脑操作比直接调用 API 更慢也更不可靠。据报道,每步动作约需 2 到 5 秒,这让它不适合高频或实时的操作;而靠截图驱动界面,仍可能产生错误并在一个长任务中不断放大。它是许多工作流中一位胜任的助手,而不是一个完美无瑕的操作员。
安全方面需要真正的谨慎。推荐的防护措施包括:在一个权限最小的专用虚拟机中运行智能体、限制互联网访问、不让凭据出现在屏幕上,以及对后果重大的操作保留人工监督。Anthropic 还指出,这项功能可以适用零数据留存,即通过它发送的数据在响应之后不会被存储。把智能体当作一位能力强但需要监督的实习生来对待,就能在不承担过度风险的前提下用好它。
电脑操作让 AI 模型能看到屏幕并控制虚拟鼠标和键盘,通过“感知、推理、行动、重复”的循环,像人一样操作软件。它解锁了对没有 API 的应用的自动化,支撑起智能体式的网页导航,并且最适合作为专用连接器的后备方案,而非首选。
对品牌而言,它预告了一个越来越多由智能体浏览的网络,而这会奖励那些干净、机器可读的站点。把这项能力与AI 智能体和智能体搜索联系起来,才能看到完整的图景。参考来源:Anthropic Claude 文档、Developers Digest 和 CNBC。
来源
API 集成为模型提供了一种干净、结构化的方式去调用某个服务,它快且可靠,但只在存在这类集成的地方才能用。电脑操作则让模型看到屏幕并控制鼠标和键盘,从而能操作人类能操作的任何应用,包括那些没有 API 的软件。代价是,屏幕控制更慢、更容易出错,所以只要有连接器可用,就应当优先使用连接器。
Anthropic 最初在一个较早的 Claude 模型上以测试版推出电脑操作,随后把它扩展到了近期的 Opus、Sonnet 和 Haiku 模型,每个都需要特定的测试版请求头。有趣的是,据报道,体量更小的 Haiku 模型在电脑操作基准测试上超过了更大的模型,这让它成为大批量、对成本敏感且看重速度的自动化场景的有力选择。
它预示着向智能体网络的转变:由 AI 智能体代替用户浏览网站并采取行动,而不是人去逐页阅读。这使得机器可读性变成了一个排名层面的问题:干净的结构、快速的页面和无歧义的内容,能帮助智能体顺利感知并使用您的网站。同样这些特质,也有助于您在 AI 答案中被引用和获得可见度。
他们已先于您体验了 SORANK

