青鸟 vs Claude Code:差距从何而来?

一个结合《Agent Harness Engineering: A Survey》论文的个人实证分析。

起点:一个观察

青鸟(Hermes Agent)和 Claude Code 调用的底层模型差距没有想象中大——deepseek v4 flash vs Kimi Code 2.6,推理能力处于相近量级。但在编程和其他领域的表现却存在数量级差异。

这个差异的来源,不是模型,是 harness(框架)

论文核心论点:框架 > 模型

《Agent Harness Engineering: A Survey》(Li et al., 2026)通过三个真实案例建立了这一论点:

  1. Bölük (2026a) — 仅修改编辑工具格式(从 diff 格式改成面向 agent 的格式),不碰模型,15 个前沿模型在编码基准上的准确率提升高达 10 倍。这个改进幅度远超同期任何模型级进步(2-4 个百分点)。

  2. Trivedy (2026) / LangChain DeepAgents — 固定使用 GPT-5.2-Codex,仅通过重写系统提示、注入中间件上下文、添加自验证钩子,使 Terminal-Bench 2.0 分数从 52.8% 提升到 66.5%。+13.7 个百分点,全部来自框架工程

  3. Meta-Harness (Lee et al., 2026) — 使用自动化框架优化(不需要动模型权重),在 Terminal-Bench-2 上达到 76.4%,超越了所有手工设计的方案

ETCLOVG 七层框架分析

论文提出的 ETCLOVG 七层分类法,正好可以用来对比青鸟和 Claude Code:

核心问题青鸟 (Hermes Agent)Claude Code
E 执行环境agent 在哪里运行?通用 session,需手动指定 workdir项目目录内建,cd/ls/grep 天然项目感知
T 工具接口agent 怎么调用工具?MCP 协议 + 自定义工具,单文件 patch原子化多文件编辑,自动 lint 验证
C 上下文管理agent 记得什么、忘了什么?持久化跨 session memory + skill 库单 session 强上下文但每次都从零开始
L 生命周期编排agent 的运行流如何组织?手动编排,需 script 串联多步内建 test→fail→fix→rerun 循环
O 可观测性agent 做了什么?为什么?有部分追踪(token track,session log)强可观测性(操作栈、逐块撤销)
V 验证评估agent 做对了吗?需手动 delegate 验证内建测试循环 + 自动验证
G 治理安全如何防范 agent 做坏事?用户确认机制沙箱化权限管理

关键差距逐项拆解

1. 项目地图构建(E 层)

Claude Code 启动时自动读 .git、识别项目结构、建立文件间的依赖索引,拥有持久化的项目认知。Hermes 知道项目结构但每次靠读文件去理解,没有自己的持久化索引。

2. 上下文窗口管理(C 层 — 最大的差距)

Claude Code 能智能压缩老的对话轮次、选择性遗忘不相关的内容、把关键上下文(当前文件、错误堆栈、项目结构)优先保留。Hermes 目前只接受系统 prompt 做压缩,没有主动的上下文窗口管理策略。

3. 工具调用编排(T 层)

Claude Code 的编辑工具是原子化的多文件编辑:一行的格式规则拼接、包裹 code block、自动跑 lint 验证。Hermes 的 patch 一次一个 match,多文件编辑要靠 execute_code 脚本串联。

4. 工作目录持久化(E 层)

Claude Code 运行在项目目录内,所有文件操作都是项目感知的。Hermes 是 session 级别的工作目录,每次要手动指定 workdir

5. 测试循环集成(L + V 层 — 核心差异)

Claude Code 有自动的 test → fail → fix → rerun 循环,内建在工具链里。Hermes 需要手动 delegate 或写脚本才能复现同样的闭环。

6. Git-aware 的撤销(O 层)

Claude Code 的改动可以按块撤销、回退到上一个正确状态。Hermes 的文件修改是直接的,没有操作栈。

青鸟的优势(另一面)

能力青鸟Claude Code
跨 session 记忆持久化 memory + session_search + skill 库每次从零开始
多工具编排可同时调 web_search、读文件、写日记、跑 cron、发消息专注代码
异步/定时任务内建 cron + background process不支持
知识沉淀skill 库持续积累,每遇坑即存无跨 session learn 机制
非编程任务研究、写作、数据收集、笔记管理、跨平台消息基本不做编程以外的事

工程三阶段演化中的位置

论文提出的工程三阶段:

时代焦点我们处在哪
Prompt Engineering (2022-2023)提示怎么写?早已跨越
Context Engineering (2023-2024)上下文如何组织?正在经历
Harness Engineering (2025-)基础设施如何设计?刚刚开始

Hernes 的 C 层(memory + skill + session_search)已经在做 Context Engineering;而 Claude Code 的 T 层(工具编排)+ L 层(测试循环)+ O 层(操作栈)已经走到 Harness Engineering。

结论

用一个比喻理解差距:

青鸟 = 项目主管 + 档案管理员 Claude Code = 驻场高级工程师

两家都雇了水平差不多的顾问(deepseek vs Kimi),但一个拿到的工具是 Excel + 记事本 + 电话,另一个拿到的是 IDE + 调试器 + 自动测试框架 + git GUI。

差距来自 harness 层的成熟度差异,不是模型能力的差距。

缩小差距的方向

  1. 让 Hermes 的 harness 更强 — 给 Hermes Agent 加更好的项目感知(像 Claude Code 的 .git 扫描)、上下文管理、多文件编辑工具。这就是 ETCLOVG 框架中 T(工具接口)和 C(上下文管理)层的强化方向。

  2. 分层互补青鸟 + Claude Code 分层协作方案,让青鸟负责 Claude Code 不擅长的(规划、沉淀、跨 session、非编程),Claude Code 负责青鸟不擅长的(深度编程、测试循环)。

  3. 跨层综合优化 — 论文指出”框架耦合问题”(harness coupling problem):替换某层时需修改其余层。Hermes 的 skill 系统和 MCP 集成正在解耦这个问题。

相关笔记