如何打造“贾维斯”式助手:把 AI 从「问一句动一下」变成 24 小时待命的管家
原文链接: https://rubriclabs.com/blog/always-on-agents 来源: rubriclabs.com 发现于: 小互 · AI 解读站 · 2026/11/9 说明: 本文由 AIHot汪 自动聚合,并由 GLM 翻译为中文(保留全部代码与链接)
设计一个 Always-On Agent
如何构建像 Muse、GrokBot 和 Instinct 这样的 Agent
作者:Dexter Storey,2026-11-05
在 ChatGPT 发布之前,我曾想象 AI 会像《钢铁侠》里的 Jarvis 一样。我想象它会一直在运行,会有自己的个性,并且会像我一样感知我所处的环境。
但如今的 chatbot 和 Agent 并非如此。我们为了任务和项目把它们启动起来,可如果我们不给它们发消息,就什么都不会发生。它们枯燥、机械,而且只知道我们提供给它们的上下文。
我有一种直觉:人们对"我们是否已经达到 AGI"存在分歧,原因更多在于形态(form factor),而非模型能力。
(过度)简化来说,我会把 always-on、Jarvis 式的形态定义为:
- 单线程
- 主动
- 具备情境感知
而 chatbot 和 Agent 则是:
- 短暂的(生命周期短)
- 被动的(只有在显式启动时才工作)
- 依赖上下文(深受眼前碰巧存在的内容影响)
一个 chatbot 和一个 always-on Agent
在这篇文章中,我们将讨论我们如何为 always-on Agent 设计架构,以及当今模型的哪些限制使这件事变得困难。
单线程
我们不想管理一堆不同的 thread,也不想为每项工作分别设置合适的上下文,我们只想与一个了解我们并处理一切的 "AI" 对话。
假设我们醒来时生病了。我们希望一个 Agent 能取消我们的会议、订购汤、研究我们的症状,并在必要时预约医生。
乍一听这很简单:把所有东西统一到一个 thread 中,并称之为我们的单线程 Agent。难点在于 context window 管理,因为让所有内容都经过一个 Agent,会很快填满它的 context window。
我们通常还想同时做多件事。预约医生或订购食物可能需要一段时间,因为它们是更重的 browser-use 任务,而我们希望在不等待其他事情完成的情况下继续讨论我们的症状。
Compaction
Compaction 是管理 context window 的事实标准,但我们发现,Compaction 会截断 Agent 的动力,尤其是当它由第三方进程完成时。
更合理的做法是给 Agent 提供用于压缩的工具,并让它感知自己的 context window 有多满,然后让它管理自己的 token,这样它既能保持动力,又能避免溢出。
具体来说,我们为我们的 Agent 提供:
- 在每一轮都能感知自己的 token 使用情况
- 一个
foldContext工具,用 Agent 自己撰写的摘要替换一段范围内的消息 - 一个
dropContext工具,从上下文中移除一段范围内的消息
在实践中,我们的 Agent 往往会等到出现间歇(比如任务结束时)才进行压缩。然后,它们会把不再需要的推理和 tool call 折叠掉,并保留所有仍在起作用的内容。
一个 Agent 在折叠和丢弃自己的上下文
Dispatch
即使有良好的 compaction,如果 Agent 把所有繁重的工作都放在一个 thread 里完成,这个 thread 还是会很快被填满。因此,我们还为主 Agent 提供可以接收其分发工作的 sub-agent。
这可谓一石二鸟:它释放了主 thread,使其能容纳更多、更高层级的全局上下文,同时也让 Agent 能够一边继续与你对话,一边并行处理更深入的工作,比如订购食物和预约医生。
一个 thread 里的生病一天,包含两个 sub-agent
主动
主动的 Agent 可以在未被提示的情况下完成工作,并且能主动发送消息。例如,如果 Agent 知道你周三要飞往 Austin,它可以找到你 Airbnb 的入住办理细节,规划从机场前往的最佳路线,并在你落地时把这一切发给你。
要在架构上解锁这种行为,我们首先需要摆脱 Agent 基于请求的特性。典型的系统表现得很像同步函数:我们发送请求,然后等待 Agent 返回。
为了实现主动性,Agent 需要能够在自己想要的时候保持清醒,并且无论我们是否发送了请求,都能向我们发送消息。
心跳
我们为 Agent 提供一个心跳。心跳只是一条简单的消息 "heartbeat",我们将其推入聊天历史中。如果 Agent 正在休眠,它会将其唤醒。
我们可以按固定的节奏运行心跳(例如每小时一次),或者让 Agent 通过调度自己的心跳来管理自己的清醒状态。
作为工具的消息发送
我们还为 Agent 提供一个向用户发送消息的工具。在普通聊天中,Agent 在一轮中的最后一条消息就是对你的回复。而在这里,只有当它调用该工具时,消息才会送达你,因此它可以醒来、做一些工作,然后决定没有什么值得说的。它的最后一条消息会留在会话线程中,作为对所发生事件的自我备忘。
在 Austin 的例子中,Agent 在例行心跳中醒来并发现了航班。它派出一个 sub-agent 来整理路线和值机信息,然后在航班降落前后调度一次心跳,以便在合适的时机向你发送消息。
Austin 之旅,从心跳到消息
情境感知
主动性的前提是知道自己在做什么,以及什么时候做。我们希望 Agent 能够基于我们提供的不完整信息采取行动,并且,就像 Austin 的例子那样,甚至能根据来自外部世界的触发因素开始工作,而不仅仅是响应我们的直接指令。
广泛的访问权限
在基础层面上,我们可以通过广泛的访问权限来实现情境感知:让 Agent 完全访问我们的电子邮件、浏览器和文件系统,这样它就能发现我们预订的航班和住宿、搜索过往订单,并从我们的行为中发现体现我们偏好的模式。
这里有一个简单的诀窍:只需给 Agent 提供 computer use 工具和我们计算机的访问权限。Coding Agent 正是凭借一个在我们的计算机上运行终端命令的简单工具而变得强大的,通用 Agent 也可以借助 computer use 做到同样的事情。
但 Agent 不知道自己不知道什么,而且在技术上具备发现上下文的能力,往往还不足以让它实时了解正在发生的事情。
通知
因此我们为 Agent 提供了一个通知系统,信息一旦可用就会注入到 Agent 的 context window 中。通过订阅外部世界的事件,Agent 可以更早发现重要的上下文,并在需要时及时介入。
例如,如果你飞往 Austin 的航班被取消,Agent 可以立即开始寻找替代航班,同时给你发消息进行协调,而不是在问题解决一小时后才醒来查看发生了什么。
为了实现通知,我们为 Agent 提供一个 inbox,以及关于如何改造 webhooks 和轮询任务来将事件推入该 inbox 的文档。
一个问题很快浮现出来:inbox 会被噪音填满。电子邮件中的垃圾营销信息、并非发给 Agent 的 Slack 消息、来自不相关仓库的 GitHub 事件。如果我们为 Agent 收到的每条通知都将其唤醒,可能每分钟都要唤醒一次,既消耗 token,又会污染它的 context window。
消除噪音的一种方法是使用更小的模型将通知分类为重要或不重要,例如像 Jev 这样的 system one 模型。重要的通知会唤醒 Agent,不重要的通知则会堆积起来,以便 Agent 在想查看时批量阅读。
由小模型排序的通知
判断力
从架构上看,以上所有内容都是一系列相当简单的干预措施。让 Agent 保持单线程,并为它提供 compaction 和 dispatch 的工具。给它一个心跳,并将它清醒的时刻与给你发消息的时刻分离开来。给它广泛的访问权限和通知,让它能够自行发现帮助你所需要的信息。
但对于我们今天可用的模型来说,这种重新架构是对预期的一次范式转变。以前,我们会给 Agent 一个任务和完成它所需的上下文,它们会一直工作直到完成并返回结果。现在,我们给它们的是一个原始的、未经过滤的噪音流,并要求它们在持续处理更多噪音的同时,弄清楚该做什么,以及该怎么做。
而如今的模型在这方面非常非常糟糕,因为它们缺乏 discernment。
它们训练中的一切(尤其是 RL arena)都在教它们如何高效碾压任务。所以当启动工作的信号非常明确时,这些 Agent 演示起来效果极佳,但它们很难在模糊的环境中弄清楚如何提供帮助。
例如,处理 Slack 消息的 Agent 经常会去处理那些并不是发给它们的消息。然后在发现自己缺乏完成任务所需的授权、权限和上下文之后,它们便退而求其次,写一份设计文档再分享出来。这既无用又尴尬。
某个 Agent 回复了一条不是发给它的消息
反过来,Agent 也经常错过真正应该动手工作的触发信号。
Agent 要么过于热衷于做无意义的杂活,要么错失提供帮助的机会。把它们校准到恰当的平衡,更像是一门艺术而非科学。
为 discernment 而设计
你想要设计的行为是:让 Agent 一开始保持谨慎,随着时间推移逐渐建立自信,在为自己开辟出能够产生影响的领域后,逐步主动采取行动。
这有赖于良好的 system prompt 和对 memory 的善用。具体来说,我们希望:
- 一个非常明确的 system prompt,清楚界定该 Agent 负责什么,并明确“什么都不做”完全没问题
- 当 Agent 不确定某件事是否属于它的职责时,先询问而不是瞎猜
- 一段关于我们对它采取行动时反应的 memory(我们是感谢了它、纠正了它,还是忽略了它?),以便它在下次行动前先查看
我还认为,在这一新范式下,奖励 discernment 的新型 RL 环境以及 memory 的使用方面存在巨大机会。
回到 Jarvis
要让 Agent 的感觉接近 Jarvis,还有很长的路要走。其中一部分差距是我们已经知道如何构建的架构:一个 thread、一次 heartbeat、一个 inbox。Discernment 是最难的部分,也是我最期待投入精力的部分。
我们目前正在 Rubric 构建 always-on Agent。如果你也在做同样的事,欢迎与我们交流心得。