中文
保持联系
全部洞察

讲解

模型只是一部分:什么是智能体的运行框架(harness)

AI 智能体就是一个模型加上一套运行框架:循环、工具、记忆和权限。本文解释这一层做什么,以及选择时该看什么。

Zaela,由 Edge 打造5 分钟阅读

比较 AI 工具时,人们通常比较的是模型:哪个写得更好,哪个推理更深。但一旦您把真正的工作交给 AI,比如一份月度报告、一次竞争对手扫描,或者一整个文件夹的资料,结果在很大程度上同样取决于包裹在模型外面的那层软件。这层软件就叫运行框架,英文称为 harness。

模型是大脑,运行框架是工作环境

单靠语言模型本身,只能输入文本、输出文本。它不能打开文件,不能核对数字,也记不住您上周约定的事情。Claude Code 的文档把运行框架描述为模型外面的一层:它提供工具,并管理模型能看到的上下文。Anthropic 的工程师说得更简短:运行框架就是那个调用模型、并把模型的工具调用转交给相应基础设施的循环。

不妨想象一位才华出众的新同事。她的才华就是模型。她的办公桌、门禁卡、有权打开的文件、随手记下的笔记,以及检查她工作的主管,这些就是运行框架。

运行框架做什么

大多数运行框架承担五项职责。

  1. 循环。 智能体按周期工作。Anthropic 将其描述为:收集上下文、采取行动、检查结果、再来一轮。在指南 Building effective agents 中,Anthropic 指出,智能体通常就是在循环中根据环境反馈使用工具的大语言模型。运行框架负责驱动这个循环,并决定何时停止,例如达到最大轮次或费用上限时。
  2. 工具。 工具就是双手:读取文件、搜索网页、查询数据库、发送邮件。每一个结果都会影响下一步决定。Anthropic 写道,团队在为 SWE-bench 基准测试打造编程智能体时,花在优化工具上的时间比花在整体提示词上的还多。
  3. 上下文与记忆。 模型只能处理其上下文窗口中的内容,而这个空间是有限的。Anthropic 称上下文是“一种边际收益递减的有限资源”:塞进去的越多,模型对其中每一条信息的记忆就越差。好的运行框架懂得取舍:需要时才加载知识,窗口快满时把较早的对话压缩成摘要,在窗口之外保存笔记,并把子任务交给从零开始的子智能体。
  4. 权限。 智能体可以不经询问做哪些事?在 Claude Code 中,您可以选择不同模式:每次修改文件或执行命令前先询问;只做规划和提议;或者更自主地工作,同时拦截有风险的操作。此外,您还可以允许或禁止特定工具。
  5. 人工检查点。 Anthropic 建议,智能体应在关键节点或遇到阻碍时暂停,等待人的反馈。OpenAI 关于构建智能体的实用指南列出了两个应交给人处理的时刻:智能体失败次数过多时,以及执行敏感、不可逆或影响重大的高风险操作之前。

同一个模型,不同的结果

这并非纸上谈兵。Anthropic 在公布其 SWE-bench(一个由真实软件问题构成的基准测试)成绩时强调,这项测试评估的是整个智能体系统,而不是孤立的模型;即使底层模型相同,得分也会因外围框架不同而显著变化。

第二个例子来自 Anthropic 对长时间运行智能体的研究。每个新会话开始时,都不记得上一个会话的内容。解决办法不是换一个更好的模型,而是改进运行框架:第一个会话先建立进度文件、功能清单和版本历史,让之后的每个会话都能看清工作进展到哪一步。再给智能体配上浏览器工具,让它像真实用户一样测试自己的成果,结果大幅改善。

问题不只在于您用哪个模型,更在于您给它什么条件去工作。

而且,这种匹配会随时间变化。Anthropic 指出,运行框架里隐含着对“模型自己做不到什么”的假设,随着模型进步,这些假设会过时。某个模型曾经需要的变通办法,到了下一个模型就成了累赘。

选择时看什么

无论您是在挑选工具,还是自己构建智能体,都可以问以下问题。

  • 工具: 它能否接入您的工作真正需要的数据和系统?少量清晰的工具胜过一长串功能重叠的工具;Anthropic 把臃肿的工具集列为最常见的失败原因之一。
  • 记忆: 它在不同会话之间记住什么?存放在哪里?您能否查看和修改?
  • 权限: 它可以不经询问做什么?能否按人员、按工具分别设置?
  • 核查: 它会不会通过测试、截图或二次审阅来检查自己的工作?Anthropic 写道,能够检查并改进自身输出的智能体从根本上更可靠。
  • 刹车: 您能否随时打断它?它是否会在达到轮次或预算上限时自动停止?
  • 可追溯: 是否有日志记录它做了什么、为什么这样做?
  • 模型选择: 能否换用更新的模型,而不必推倒重来?

从一项您每月都要重复的任务开始。写下一位新同事要把它做好所需的数据、规则和检查步骤。这份清单,就是您的运行框架。

Zaela 不是又一个聊天机器人。它在您已在使用的 AI 中运行,比如 Claude、ChatGPT 或任何支持 MCP 的助手,并把记忆、智能体、方法和工具集中在一处。您的 AI 只能看到您有权查看的内容,每一次操作都有记录,预算和上限可以按人设置。

Zaela 会如何为您工作?

回答六个简短的问题,获得一份初步构想,以及适合您的智能体。

试试顾问

延伸阅读

保持联系

想知道 Zaela 能为您带来什么吗?

留下您的联系方式,我们会与您联系,向您介绍更多关于 Zaela 的信息。

我们仅会使用您的信息就 Zaela 与您联系。