“自我进化型 Agent”听起来像模型会自行升级,但 Hermes Agent 给我的更实际启发,是把长期变化放在分层架构中管理:运行时完成当前任务,记忆层保存经验,技能层把反复成功的方法沉淀下来。
三层各自解决什么
运行层负责理解目标、选择动作和处理工具结果;记忆层保存任务轨迹、偏好与反馈;技能层把稳定工作流封装成可复用能力。三层之间需要明确接口,避免一条临时对话直接变成长期规则。
Runtime:完成这次任务
Memory:保留值得复用的事实与经验
Skill:把验证过的方法变成版本化能力
Nudge 不等于随意催促模型
Nudge Engine 可以在任务停滞、缺少验证或偏离目标时提供提示。有效的 Nudge 应由可观察条件触发,例如连续两次工具失败、产物未通过测试,而不是固定追加“请反思”。提示还要有限次,防止系统陷入自我讨论。
从经验到 Skill 要经过验证
一次成功可能只是偶然。候选技能应从多条轨迹中抽取,明确输入、步骤和验收条件,再用历史任务回放。只有稳定提升且没有破坏安全边界,才进入注册表;否则经验仍应停留在可检索记忆中。
自我进化必须有控制面
系统要记录哪个版本在何时新增了什么能力,能够灰度、回滚和禁用。涉及工具权限的技能不能自行扩大授权。模型可以提出改进建议,但发布决定应由评估和审批机制掌握。
这章给我的启发
“会成长”的 Agent 并不是不断积累文本,而是能把经验从记忆逐步提炼为经过测试的技能。分层、评估和版本控制,让成长不以失控为代价。
文章摘自:https://www.cnblogs.com/hazy-star/p/22755994
