谷歌开源 Harness²:让大模型在运行中自我改进脚手架

  • AI
  • 0
Mores的头像Mores
谷歌开源 Harness²:让大模型在运行中自我改进脚手架

谷歌研究团队近日开源了名为Harness²的Agent框架,其全称为“Recursive Agent Harnessing for an Open World”。该框架让大模型在运行过程中自行修改系统提示词、记忆、工具指引、技能库和子代理等外部组件,而不改动模型权重。项目已在GitHub以Apache 2.0协议开源,支持OpenCode与Codex,默认使用OpenCode。

据来源介绍,在只做一步Harness²优化、模型权重不变的情况下,WorkBuddy-Bench最高提分11.5分,JobBench最高提分4.5分,法律基准LAB的部分通过率最高提升11.8个百分点。谷歌研究同时强调,Harness²仍是研究项目,并非谷歌官方支持的产品。

双层递归机制

第一层为任务级递归,第二层为改进级递归。前者负责在没有标准答案的情况下对当前任务做对照实验,后者负责把调试脚手架的过程沉淀为可复用的经验。

来源指出,过去业内的递归自我改进尝试在真实开放世界中大多失败,主要卡在两处:一是缺少标准答案,实验室有单元测试和Ground Truth,而写商业企划案、审法律合同等真实任务没有即时评分;二是过度拟合单次任务,为修某个任务改动的脚手架,换到下一个任务时反而成为累赘,硬套下去会陷入噪声螺旋。

执行端始终使用干净的基础脚手架,负责修改脚手架的“改进大脑”则携带历史经验。

提议、探测与合成

任务级递归先让系统用初始脚手架跑出一版参考轨迹,重点不在结果对错,而在观察模型执行中暴露的缺陷。随后启动Propose–Probe–Compose机制:提议阶段由专门的编辑角色针对该轨迹提出两套修改方案,一套是抓跨领域通用毛病的“通用缺陷修补”,如规划混乱、工具调用死循环、上下文爆炸;另一套是面向当前业务特定知识与约束的“领域专属修补”。

探测阶段把两套候选脚手架放回同一任务分别运行,在没有裁判的情况下,将候选执行轨迹与参考轨迹做行为对比,判断改动是否解决了此前卡住的步骤,是否引发新的逻辑退化。合成阶段则由合成器汇总执行证据,只把被行为证据证明有效的改动合并进最终脚手架。

该机制还支持并行扩展,可一次铺开k个候选方案并发探测,在更宽的探索空间里择优合成。

基准测试成绩

团队在三个职业基准上做了测试:覆盖代码、网页、办公套件工作流的WorkBuddy-Bench,长程端到端岗位任务的JobBench,以及Harvey开源的法律智能体基准LAB。底座模型为Gemini 3.5 Flash和GLM-5,执行脚手架选用OpenCode与Codex。

仅做单步Harness²改进(k=1)时,GLM-5在OpenCode下综合得分从64.2升至75.7,提高11.5分;在Codex下从64.4升至75.3。Gemini 3.5 Flash在OpenCode下从72.4升至77.5,在Codex下从74.5升至77.5。经脚手架优化的GLM-5得分超过了未改脚手架的原版Gemini 3.5 Flash。

JobBench上,单步改进使Gemini 3.5 Flash提高4.5分,GLM-5提高3.6分;LAB上GLM-5的部分通过率提升11.8个百分点。将并行预算提高到k=5时,WorkBuddy-Bench最高再涨3.9分,JobBench再涨4.2分,LAB通过率再涨6.7个百分点。

经验库与跨领域迁移

改进级递归在任务交付后启动:参考轨迹、候选修改、对比证据和合成决策被交给反思模块,由后者复盘并写成EXPERIENCE.md,记录改动原因、起效条件和后果,存入持续改进经验库。下一个新任务到来时,执行端仍拿到干净的基础脚手架,而改进端可检索过往相似场景下的有效组件和避坑指南。

团队还测试了经验库的跨领域迁移:把在JobBench上积累的经验库直接用于WorkBuddy-Bench,在不做额外探测的情况下,代码提高0.6分、网页提高0.5分、办公提高2.9分。

来源将这一设计的意义概括为把单次任务的临时修补转化为可积累的认知资产,改进的不只是眼前的脚手架,还有未来改进脚手架的能力。

成本与使用限制

论文共9位作者,来源称华人作者占比达78%。一作兼通讯作者Ruiyao Xu为美国西北大学统计与数据科学系博士生,导师为Kaize Ding,该论文是其在谷歌实习期间的工作;Yanfei Chen为Google Cloud AI Research资深研究工程师,本科毕业于北京大学,2018年获美国匹兹堡大学工业工程博士学位,2020年加入谷歌;Zhongying CuiZhu为Google Cloud AI Research研究工程师,2019年获斯坦福大学电气工程博士学位。

要点

  • Harness²以Apache 2.0协议在GitHub开源
  • 支持OpenCode与Codex,默认使用OpenCode
  • 框架可调整8类可修改组件
  • 单步优化使WorkBuddy-Bench最高提分11.5分
  • LAB部分通过率最高提升11.8个百分点

原文链接

AI
分享

更多快讯

全部快讯
  1. Anthropic 二季度初步营收超115亿美元,同比增长约14倍
  2. ChatGPT 升级 GPT-6 Astra Pro:多智能体可并行分工并跟踪进度
  3. 通用大模型人气周榜第42周:豆包以125.5分登顶,ChatGPT 回落至第二
  4. GitHub Copilot 一次性停用六款模型,转向 GPT-5.6 系列
  5. 四大代码编辑器竞相加入 AI 代码逐块审查功能

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧