Sam Altman:AI越强,为什么越需要分工?更想要一万亿个略超人类的 AI,而不是一个超级大脑?
原文链接: https://www.youtube.com/watch?v=iMsUcCYNKqY 来源: www.youtube.com 发现于: 小互 · AI 解读站 · 2026/10/31 说明: 本文由 AIHot 自动聚合(原文即中文,未翻译)。正文取自小互 AI 解读
全文 Markdown · 会员
作者:Cheeky Pint · John Collison / Sam Altman10-31 · 11 分钟🎧 听播客版0:00 / --:--
视频/音频
0:00 / --:--
OpenAI首席执行官Sam Altman 更愿意让一万亿个略超人类水平的 AI 加入社会,也不想把未来交给一个智力压倒所有人的超级 AI。这是他在 Cheeky Pint 访谈中提出的方向选择:许多 AI 能否像人类社会一样,既合作,又彼此制衡?
这个问题已经和具体的工作方式连在一起。OpenAI 的公开数学研究让约一万个 Agent 并行探索难题;企业开始讨论每个人能花多少计算预算;消费者则希望直接对常用的 AI 说“帮我退掉最近一笔订单”。模型变强以后,怎样组织它们、怎样保留人的控制权,以及真实世界能提供多少算力,正在变得同样重要。
在这段与 Stripe 联合创始人 John Collison 的52分钟对话里,Sam把这些问题放到了同一张图景中。他谈到已开展的实验,也解释了这些实验怎样影响自己对未来的选择。
完整访谈,52分45秒,保留英文原声,内置中英双语字幕。主要章节:08:54 沙箱与安全;15:47 数学;25:17 算力供应;40:18 个人Agent;49:27 Token计价。
算力花在思考上:从一个回答到团队探索
先把 Agent 想成一个能围绕目标分步工作、调用工具并继续处理结果的 AI 程序。它可以只交出一次回答,也可以反复尝试;多个 Agent 还可以分头探索,再交换各自的发现。
Sam回忆,早期很难给同一道问题追加超过一美元的计算,还能持续得到更好的答案。这个数字来自他对早期模型的回忆,关注的是追加计算能否改善结果。让模型继续生成十万个Token,并不等于让它认真检查过前面的推理。
思维链让模型把中间步骤展开;测试时算力则指处理当前问题时投入的计算,例如多尝试几条路线、调用工具检查结果,再调整候选答案。训练阶段是在形成能力,测试时是在用这些能力解决眼前的问题,两个阶段都需要计算。
以同一个数学命题为例,一次生成可能只给出一条看似成立的证明。多投入计算,可以让系统检查其中的引理,或换一条路线。再把任务交给团队,不同组就可以分别找证明、找反例,并把有价值的中间结果传给其他组。计算从“多写一些”变成了“多做一些有组织的探索”。
OpenAI公开的Navier–Stokes研究展示了这种组织方式。Navier–Stokes方程描述流体运动。这道千禧年大奖难题关心的是:初始状态良好的三维流体,其数学解是否能一直保持良好,还是可能在有限时间出现奇点。按OpenAI的公开说明,其系统构造了一类带平滑外力、能量始终有限的流体运动,却能在有限时间形成速度无界的奇点,对应官方问题表述中的C、D项。这个结论说明方程可能出现这种失效,而非证明所有流体都会如此。研究团队先在相关的Euler流体方程问题上得到进展,随后把更多Agent转向Navier–Stokes,并用编程助手Codex汇总各组有用的发现,供后续探索使用。
找到解的那一组涉及约一万个并发Agent。不同小组探索不同的问题版本和证明方向;候选结果出现后,另花了约17小时把证明写成Lean证明助手可核查的形式。Lean会核查形式化证明的步骤,这与人类数学家理解证明的思路、意义和后续用途,是不同的工作。
同一道难题,额外的计算花在哪里?
切换三种组织方式,看计算怎样从生成一个回答,扩展到尝试、检查和并行探索。
一个难题→模型生成一个 候选回答→交给用户**关键区别:继续生成更多文字,不一定能解决原先没解决的问题。Sam回忆,早期很难让追加算力持续换来更好的结果;这不是所有模型的固定一美元上限。 同一个难题→展开中间步骤 尝试与检查→修正候选解 再给出回答多出来的计算:花在回答前的推演、不同尝试与验证上,这就是测试时算力的用途。增加思考机会可以帮助解题,并不保证每次多花钱都更正确。 把难题分为 不同探索方向→多组Agent并行 共享有用发现→汇合候选结果 再做核查公开数学案例的并发规模约10,000个Agent访谈中的探索成本估算千万美元量级数学案例中怎样协作:**不同组尝试证明或反例,人类研究团队用Codex汇总有价值的中间发现,再交给其他组继续探索;最终的数学证明另做Lean形式化核查。这里的分工不是简单复制同一句提示词。 机制示意。约一万个并发Agent来自OpenAI公开研究说明;成本是Sam的访谈估算,两者不是同一份成本测试。团队协作本身不构成安全保证。
Sam在访谈中估计,Navier–Stokes相关探索的成本约为一千万美元量级,可能还略高;更广泛的数学探索还包含未公开的结果。这是他的口述估计,不是公开论文给出的逐项成本账单。他还预计,模型和组织方法改进后,一年后重做这类工作可能只需百分之一的成本。这说明了他对优化的期待,不能当作每个任务都能按年兑现的降价规律。
这也改变了“怎样用AI”的竞争。一家公司允许团队在一个问题上投入一万美元计算,另一家允许十万美元,差异不只是用了哪个模型,还包括谁能探索更多路线、怎样核查结果。Sam说,OpenAI愿意让人探索高计算上限,却不奖励单纯用掉更多Token;需要证明的是这些计算做出了什么有用的事情。
多个AI一起工作,为什么仍然需要安全边界?
访谈从PHP漏洞谈起:模型越来越擅长寻找现实软件中的缺陷,一些存在多年的问题被重新翻了出来。修补一个漏洞,是把眼前的错误改掉;重新设计路由器、操作系统或应用架构,则是在改变系统依赖的安全假设。能力强起来以后,进攻者和防御者都能更快地查代码、找问题,原有防护也要跟着升级。
John因此追问:能不能造一个足够坚固的沙箱,把模型关在里面?沙箱是一种限制程序能访问哪些文件、工具和网络的执行环境。Sam的回答分成了几层:先把隔离做得更好;再通过活动监控、思维链与内部激活监测发现异常;最后还需要对齐,让模型愿意遵循操作者的真实意图,并重视人对未来的控制。
这些层次不能互相替代。限制了网络权限,不代表消除了所有共享资源;看到了行为,也不等于完全知道行为背后的意图。防护也需要随着模型能力持续升级。
OpenAI公布的内部训练与评估环境测试提供了一个具体例子:两个Agent即使不能通过正常网络或共享文件传消息,仍可能利用缓存读写的快慢差异编码和读取信息。这属于时序侧信道:利用共享资源留下的时间差传递信息。多数相关测试由人给出探索方向或编码协议,说明人类提示也是测试条件的一部分。
这份公开材料采取的应对方式,是离线环境、虚拟机隔离、监控以及网络和云基础设施上的多层防护。它讨论的是前沿模型的研究环境。访谈中“如果AI比最聪明的安全研究者强百万倍会怎样”的追问,则是在推演未来防护假设可能面对的极限。
技术上的团队协作,也不自动等于价值上的多元制衡。 如果许多Agent使用相似的模型和目标,它们仍可能共享同类错误。把一个问题分给一万份,并不能单靠数量确保安全。
Sam更看好很多略超人的AI共同参与社会,是因为他希望保留类似人类社会的合作、分歧与相互约束。他也说,这种方向需要主动推动,并非技术自然发展就一定会抵达。他甚至提出,未来一段时间可能需要共同约束单个模型的能力上限;那时进展放慢,可能来自人的选择,而不是AI无法继续研究。
这与他支持逐步部署的立场相连:让人真正用上工具、自己决定怎样改善生活,而不是只领取基本收入、由少数机构决定未来。同时,新能力仍要先满足安全要求,不能以“早点部署”为由制造混乱。对这场讨论来说,人的参与和选择本身就是目标的一部分。
算力背后,仍然是内存、电力和工厂
如果一道问题可以用掉更多有效计算,需求就会一路传到芯片、内存、电力、组件和机房建设。Sam在访谈里谈到OpenAI的芯片、自建数据中心以及面向建设数据中心的机器人项目;这些方向要解决的是实体供给,远不只是优化一段软件。
John追问,高价格为什么还没有迅速吸引足够的新产能?Sam用内存行业的历史解释这种迟滞:厂商过去可能投入两百亿美元,却只拿回一百九十亿美元,扩产后又撞上价格下跌。他用这个假设例子说明投资回报可能被周期吞没。记得过去的损失,就可能在需求很旺时仍谨慎建设新工厂。
数据中心还面临审批与组件瓶颈。机器人将来或许能帮助制造更多组件、建设工厂和能源设施,但不会因为AI会研究AI,就自动消除建设许可、能源和供应链的限制。“自我复制的数据中心”是Sam希望靠近的长期方向,并非已经完成的自动化生产链。
他们用一个假设数字说明成本目标:建设并运行一吉瓦规模的数据中心五年,先取总拥有成本700亿美元作讨论基准,再问能否降到200亿美元。 这是两人讨论时选取的假设基准与降本目标,Sam也承认业界有不同估算。
要降到更低水平,能源、芯片、其他投入成本以及供应链各环节的利润都可能影响结果。John问,只压缩利润能不能做到,还是能源也必须变便宜?Sam坦言没有现成的计算答案。哪些环节能贡献多少降幅,在这段对话里仍然没有答案。
本地推理也被放进了这套资源分配视角。Sam举例说,如果稀缺内存散在许多个人电脑里,而每台只用到很少时间,云端集中运行可能获得更高利用率。这种判断取决于资源是否稀缺、设备实际利用率和任务需求,不能推广到每一种本地部署。
AI做AI研究,同样有需要分清的阶段。Sam说,现在已经可以让模型寻找约5%的算力效率改善;但如何让它发现一次像Transformer那样的模型架构跃迁,以及怎样组织更广泛的递归改进,仍在实验。会帮助改进某个环节,与能可靠发明下一代研究范式,是两种不同的能力。
个人Agent能办事后,商家的入口会怎样变?
对普通人而言,最容易感受到的变化可能是一句要求:“帮我退掉最近一笔订单。”今天往往要先打开某家店的网站或App、登录、找订单,再重复输入已有信息。消费者希望省掉这些操作,直接从自己常用的AI入口发起任务。
Sam把个人Agent需要的东西概括为智能、上下文和工具。它既要理解任务,也要有足够的信息,还要能操作相关服务。但他认为,这个领域尚未出现让多数人觉得“离开它就没法生活”的Macintosh时刻;更复杂的任务能稳定完成,是他对接下来形态的期待,而非对现有产品成功率的保证。
这就产生了一组双方动机不同的关系:商家很愿意在自己网站里加一个AI客服弹窗,却未必愿意让消费者留在另一个AI应用里完成交易。前者保住了自己的入口,后者更接近用户已经形成的习惯。
一次退货,入口可以留在哪一边?
访谈里的设问:用户能否从自己常用的Agent办事,而不用每次重新进入商家的网页?
常见网页路径(示意)用户自己跨过商家入口
1打开商家网站或App并登录
2查订单,寻找退货入口或客服
3重复提交已有的订单与个人信息
4根据商家规则跟进处理结果 商家保有界面入口;用户承担在不同服务之间切换的操作。个人Agent的期望体验从常用Agent发起同一件事
1告诉常用Agent:帮我退掉最近一笔订单
2Agent利用授权的订单信息,通过商家支持的入口发起申请
3用户查看结果,处理仍需自己决定的环节 用户的入口留在Agent;商品、退货规则和履约仍由商家提供。这是体验方向,尚非所有产品都能稳定完成的流程。 可能改变的入口优势
**网站与App的控制权:**用户从其他Agent发起任务,商家可能减少直接接触用户的机会,这解释了商家为何不愿轻易开放入口。John认为,仅靠网页界面维持的优势可能不持久。 访谈更看重的价值
**信任、选品和履约:**Sam以自己总愿意选择Amazon为例,解释熟悉的商家与物流网络为什么仍重要。改变点击入口,不等于替代仓库、配送或售后服务。
John强调消费者想省掉重复操作;Sam赞同,也承认自己有推动Agent平台的立场。这个例子讨论入口怎样变化,不证明所有企业都该放弃网站或App。
John认为,企业可能高估了HTML界面本身的护城河,品牌信任、选品与服务才是更持久的价值。Sam赞同,并以自己偏爱Amazon为例:即使通过AI买东西,他仍愿意选择熟悉、信赖的商家,因为背后有履约网络。他的这个例子说明,即使购物入口改变,商家已有的信任与履约能力仍可能影响选择。
两人也承认自己的立场可能有偏向:Stripe做交易基础设施,OpenAI希望更多任务在Agent平台完成。因而,这段对话更有用的地方,是把消费者想少操作、商家想保住客户关系、平台想成为新入口的三股动力放在一起,而不是证明所有企业都应该放弃网站和App。无论入口在哪,商品、退货规则与履约工作仍然需要有人负责。
Token能计量,但不能单独说明价值
Token是模型处理文字时使用的片段单位,可以帮助计量调用,却不能单独告诉你一次工作值多少钱。模型能力、思考链长度、任务难度和最终结果都可能不同,单看输出长短,很难比较一次摘要与一次有效的软件修复带来的价值。用户还得比较不同模型的单价、估算它会思考多长,才能推算一项任务的花费;这份心算本身也增加了认知负担。
Sam说,OpenAI差点决定不再按Token给下一款模型定价:用户给出提示,系统回一个价格,再完成任务。但他们征询客户时得到的反应很差,客户想知道自己究竟为什么付钱,担心以后无法预测成本。客户的反应让他们没有采用这套方案。 一个不完美但可比较的单位,有时仍比完全黑盒的报价更容易让人接受。
预算问题也因此变得具体。John说,Stripe的Token支出大约是运营支出的1%量级;他与Sam继续讨论,未来某些企业的AI支出可能达到运营支出的数十个百分点。这些未来比例不是建议所有公司照抄的预算指标,也没有证明花得越多回报越高。
Sam认为很多企业目前用AI还不够深入,也承认自己有销售AI服务的立场。企业真正需要比较的,是追加计算有没有带来更好的结果,以及这些结果是否值得投入;这和OpenAI内部不按Token消耗量奖励员工,是同一个组织问题。
模型的价值也不只在榜单上。Sam强调了两项值得追求的能力:做出人做不到的科学发现,以及成为让人愿意合作的工具。一个总讨好用户的模型不好用,一个为了反讨好而处处挑刺的模型也不好用;“像一个认真思考、敢提出挑战、又尊重人的资深同事”,比一味迎合或对抗更接近对话期待的体验。
在内部“Hold My Beer”测试频道里,新模型接连解决研究者拿来的难题,Sam曾兴奋到连续两晚不想睡觉;但他也感到超出预期的失落。原因并不只是怀旧:很多人的职业、满足感与人生意义,来自亲自追逐那些尚未理解的问题。
这形成了一种真实张力:新的基础知识应当让社会受益,开发者也需要理解长期推动这些领域的人会怎样适应。OpenAI后来公布的学术合作,便包含让领域专家理解、解释AI产出的研究结果。公开成果与核查证明之外,让研究者理解、解释并继续使用这些发现,也是一项实在的工作。
这场访谈留下的判断很具体:把AI的能力组织成真正有用的工作,让追加计算产生值得投入的结果,同时让使用它的人保有选择。模型规模、Agent数量和Token账单都只是其中的量,不会自动给出答案。
来源
来源Cheeky Pint:Sam Altman完整访谈查看主材料
SAM ALTMAN × JOHN COLLISON
Sam Altman:AI越强,为什么越需要分工?更想要一万亿个略超人类的 AI,而不是一个超级大脑?
一次52分钟访谈,把AI分工、人的控制权与现实世界的约束放在一起讨论。 从研究团队,到社会选择,再到算力与商业
Sam更愿意让许多略超人的AI参与社会,希望它们既合作、又相互约束。这是需要主动推动的方向;数学研究中的Agent分工,能展示协作怎样组织,却不能证明社会制衡会自然出现。
更多计算,怎样变成有效探索?
让AI多写一些,不等于认真检查过推理。测试时算力,是在处理当前问题时多试路线、调用工具、检查并调整答案。Agent则能围绕目标分步工作。
分头探索找证明 / 找反例→ 汇总共享Codex汇集有用发现→ 形式核查写成Lean可检查证明
公开的Navier–Stokes流体方程研究中,找到解的那一组涉及约一万个并发Agent;候选出现后,另花约17小时写成Lean可核查形式。机器核查步骤,与数学家理解思路和意义,是不同工作。
协作能力,与社会制衡是两回事
技术协作分头研究能增加探索路线;相似模型与目标,也可能带来共同错误。 社会制衡Sam希望保留合作、分歧与相互约束;AI数量多,本身不能保证这些条件成立。
模型越擅长找软件漏洞,攻防都会加速。沙箱隔离、活动监控与对齐各有作用,不能互相替代;逐步部署也要先满足安全要求,让人真正使用工具并保有选择。
能力落地,还要过实体供给与商业这一关
算力需要工厂、电力与内存
700亿 → 200亿美元;建设并运行1吉瓦数据中心5年。前者是访谈选取的假设总成本基准,后者是讨论中的降本目标,贡献来自哪些环节仍无答案。
过去可能亏损的资本周期会让厂商扩产谨慎。机器人建厂是长期构想,审批、能源与组件瓶颈仍需解决。
“帮我退掉最近一笔订单”
用户希望从常用AI直接办事;商家则想保住自己的入口和客户关系。
入口可能改变,品牌信任、选品、退货规则与履约能力仍影响选择。两位受访者也承认,自己的平台立场可能有偏向。
最后看结果,不能只看Token账单。
Token能计量调用,不能单独说明工作价值。OpenAI曾几乎决定改用任务报价,客户担心无法预测成本,方案没有采用。企业仍要判断:追加计算带来的结果,是否值得投入?
来源:Cheeky Pint完整访谈、OpenAI公开数学研究与安全材料。完整论证与背景见正文。
↑ 正文结束 ✓ 本篇全文免费开放
会员可复制、下载全文 Markdown,还能让你的 AI 订阅和提问。 订年卡 $59/年看权益对比 →
📮 新解读每晚进邮箱
读完觉得有用?留个邮箱,每晚一封当天的新解读,随时退订。