SpaceXAI 团队分享构建 Grok Bot 的工程经验:涉及分布式系统设计、操作安全策略与上下文工程取舍
原文链接: https://www.youtube.com/watch?v=L1OBRtfPS34 来源: Lee Robinson 发现于: 小互 · AI 解读站 · 2026/10/12 说明: 本文由 AIHot 自动聚合(原文即中文,未翻译)。上游原文多次抓取失败(含登录墙/反爬,CDP 渲染亦无法获取),正文取自小互 AI 解读
已核对Lee Robinson10-12 · 🎧 听播客版0:00 / --:--
视频/音频 0:00 / --:--
在斯坦福大学 CS146S 课程的一堂讲座中,曾在 Cursor 任职、目前在 SpaceX 的 Lee Robinson 分享了团队构建 Grok Bot 的工程经验。Grok Bot 是一种常驻 Agent:用户交代目标后,它能在云端推进工作,也能被消息或定时任务唤醒,不必每一步都等着用户发提示词。
学生上一周搭建的简单 Agent,则是让模型在一个本地运行框架(Harness)里循环调用工具、读取文件和执行命令。如果本机进入休眠,或者终端里的进程被关闭,工作就无法继续;需要人批准的操作,也会停下来等待。对话变长后,工具输出还会不断占用模型能同时处理的信息空间。
常驻 Agent(Always-on Agent)试图解决的正是这类使用断层。它希望让 Agent 像一位能够长期协作的数字化同事一样,在云端拥有一台属于自己的电脑与独立环境,能够根据外部事件在后台自主推进任务,并在必要时才向用户汇报。
这是一次系统构建经验分享,部分能力仍在开发;稳定工作数周甚至数月,是 Lee 对后续发展的期待。要将原型脚本演进为稳定可靠的常驻服务,核心在于一系列具体的分布式系统设计、操作安全策略与上下文工程取舍。
完整讲座 · 中英双语字幕 · 约 45 分钟。中文在上,英文小字在下;字幕直接显示在原视频画面上。
把任务交出去后,你仍然能随时改主意
Lee 用四种开发方式说明这种变化:
- 复制粘贴阶段: 在网页中向模型提问,手动复制代码到本地编辑器,遇到报错再贴回浏览器。
- 终端 Agent 阶段: 模型进入本地循环,能够自主读写文件与运行终端命令。但这一阶段人类需要逐条确认模型生成的 shell 命令是否允许执行。
- 专用并行应用阶段: 出现专门针对 Agent 任务的界面,可以在后台或云端并行启动多个任务,开发者在完成时审查代码差异(Diff)。
- 常驻 Agent 阶段: 用户通过即时通讯或轻量消息向 Agent 交代高层目标。Agent 在云端拥有自己的环境、长期记忆与工具接口,能在用户离线后继续推进,并由外部事件(如日程、Webhook、协作消息)按需触发。
Lee 将这类产品的发展与模型能力的提升联系起来:模型更善于在较长时间内遵循复杂指令,还能将子任务委派给独立的助手;除了调用结构化 API 与终端命令,也逐渐掌握了直接查看屏幕和点击的电脑操作;同时,模型能够将用户画像与规程以文件形式自主读写,并从人类的操作示范中学习技能。这些底层能力的成熟,让长周期后台执行具备了实际可行性。
协作方式改变的关键,在于交互频次与控制权的分工。在传统终端模式下,模型每执行一条命令都需要等待人类授权;而在常驻模式下,Agent 在后台持续执行指令,人类主要负责在关键节点校准方向。例如在 Agent 执行过程中,用户可以随时发送补充消息:“顺便看一下那个讨论串”、“把时间改成周四”、“草稿整理好后直接发日程邀请”。
伴随这种交互方式的,是一项关键的安全机制——自动化审查(Auto Review)。当 Agent 需要在后台执行大量命令时,逐条让人眼审查容易引发审批疲劳。工程上引入了一个独立的安全审查模型,在具有潜在风险的命令执行前对其进行实时校验。如果安全模型判定某项操作存在风险并拦截,系统会向用户弹出明确的审批请求;在讲座介绍的原型设计中,如果用户在 15 秒内未作答复,该操作默认继续保持阻止状态。
常驻不等于一直开机:任务和电脑分开运行
许多刚接触这一架构的开发者容易产生一种直觉:既然 Agent 需要运行命令和浏览器,直接在云端开一台虚拟机,把模型对话循环和桌面环境全放在里面不就行了吗?
在真实的工程运维中,这种紧耦合会导致明显的系统脆弱性。如果虚拟机因为底层操作系统补丁需要重启,或者浏览器在测试过程中占满内存崩溃,运行在其中的 Agent 进程也会被中断。此外,让一台配置完整的图形虚拟机为了等待定时器或仅仅处理纯文本而 24 小时通电开机,会产生大量不必要的闲置计算成本。
因此,Grok Bot 采用了三层解耦的系统结构:
手机和网页负责收消息、显示结果
支持手机 App、桌面客户端、网页、Slack、邮件和语音通话等不同接入方式。客户端主要负责呈现交互界面与收集用户输入,不做重型业务计算。业务逻辑交由服务器托管后,新特性的部署无需苦等移动应用商店的审核周期。
服务器负责推进任务、保存状态
常驻服务器是系统的核心调度中枢:
- 路由(Router)与会话队列: 负责接收来自客户端、定时调度或外部 Webhook 的唤醒事件,完成消息去重,并维持单一会话同一时间只运行一个推理轮次(Turn)。
- Agent 核心循环(Agent Loop): 负责组装提示词上下文、请求模型推理并分发工具调用。
- 持久化数据库与存储: 记录完整的会话历史、长期记忆、技能文件与待办状态。关键数据均持久化在服务器端,即便云端执行环境损坏或重建,任务与记忆也不会丢失。
云端电脑负责实际操作文件和浏览器
每个用户对应一台基于轻量级虚拟机(如运行 Debian Linux 的 Firecracker microVM)的隔离沙箱:
- 按需分配虚拟屏幕: 虚拟机内置虚拟显示服务与 Chrome。当主 Agent 唤醒多个助手并行处理不同网页时,系统可以为每个活跃助手分配独立的虚拟显示屏幕,互不干扰。
- 空闲快照与按需唤醒(Snapshot & Sleep): 云端电脑按需工作。在工具调用结束几分钟且无新操作后,系统会将必要文件同步至云存储,并为虚拟机的内存和磁盘生成快照,随后停止虚拟机以降低闲置开销。当后续工具需要运行本地脚本或操作浏览器时,系统再从快照加载恢复,已安装的工具与浏览器登录状态依然得以保留。
同一项任务,哪些部件需要运行?
点击下方不同业务事件,观察三层组件如何按需分工。触发了 Agent 并不等于必须唤醒云端电脑。(教学原理示意,依据 Stanford CS146S 架构机制)
交互入口 监听中
全渠道入口 手机、桌面端、Slack、邮件、定时任务与 Webhook
对人出口:SendToUser 向用户呈现富交互卡片(审批、表单、确认),私有推导不外显
任务调度 执行中
路由与会话队列 去重排序;用户一对一修正拥有打断特权
持久工作流引擎 (如 Temporal) 按步骤持久化状态,失败后安全从断点续跑
持久化存储 (DB & Storage) 记忆、技能文件、配置与会话全量落盘
操作电脑 休眠中
按需虚拟机沙箱 Debian Linux 环境,支持独立 Chrome 与虚拟显示
快照与按需唤醒 空闲时保存内存与磁盘快照断电;工具调用时按需加载恢复
定时简报:无需界面操作时,云端电脑保持休眠
定时任务在服务器端被触发,路由器将任务置入会话队列并启动一轮工作流。Agent 从服务器加载记忆文件与配置好的数据接口汇总信息。因为整个过程不需要打开浏览器或运行图形程序,云端虚拟机全程无需唤醒,降低闲置机器的开销。如果 Agent 判定汇总结果没有实质变化,可自主保持安静,不向用户发消息。
- 08:00 定时器触发唤醒服务器端工作流。
- Agent 读取记忆与数据源,判定当前任务不需要调用桌面或浏览器。
- 云端电脑保持磁盘/内存快照状态,不占用虚拟机闲置资源。
- 任务执行完毕,服务器工作流保存状态后结束该轮次。
🔒 MEMBERS ONLY
后面约 6 分钟,是会员的。
免费部分到这里。墙内还有:
约 6 分钟正文6 处图表与交互 🔓 383 篇存量深度 / 研究解读全文一并解锁🎧 全部播客音频 + 私有播客源⧉ 全文 Markdown 导出 🔥 创始 100 席已售罄 · 350+ 位会员在读
解锁全站 $59/年 先读这篇 $1.99 按月 $6.99
单篇费用 30 天内升年卡可全额抵扣(回复收据邮件即可)
已是会员?邮箱登录 → 美元结算 · 年卡 / 单篇支持支付宝、微信;月卡需银行卡 · 年付 7 天不满意全额退。
暂时不开会员?
留个邮箱,新解读第一时间发你。确认订阅后,我把这篇的一页纸一起发过去。
↑ 正文结束
相关解读
AI 实操 Grok Bot 多项目指南:一个频道、一组成员和两层 Notion 看板 10-10 · 约 8 分钟AI 实操 Grok Bot 日常办公指南:让四个 Bot 管好消息、日历与工作情报 10-10 · 约 12 分钟AI 实操 Grok Bot SDR 指南:Cursor 写调研与草稿,Bot 做查重与待发分流 10-10 · 约 12 分钟