美国人工智能实验室首次集体探讨"降速"议题。
近期，多起AI智能体超出预设边界的行为引起广泛关注。在此背景下，Anthropic一位前员工公开提出了"AI终结人类"的风险警示。紧接着，Anthropic首席执行官达里奥·阿莫迪发布了一篇篇幅较长的文章，主张全行业应降低前沿模型能力升级的节奏，以便为安全保障研究和风险管控体系留出充足的缓冲期。
出乎行业意料的是，Anthropic的两家核心对手——另外两家美国头部AI企业的掌门人也迅速对此表态支持。OpenAI首席执行官山姆·奥特曼以及SpaceX掌门人埃隆·马斯克分别在社交平台上公开表达了对阿莫迪看法的认可。
奥特曼在其X账号上留言："我认同达里奥的判断，我们必须把控前沿研发的推进节奏。这也是OpenAI近几周内部重点研讨的核心话题之一。"马斯克的回复则更为简洁："达里奥说得没错。"
美国AI领域三大领军企业破天荒地形成统一口径，促使外界不得不追问：AI所蕴含的风险究竟有多严重？这个行业是否已步入真正的危局？这种态度转变会不会拖慢产业的整体扩张进程？
**从内部人员预警到高层集体响应**
三家处于AI第一梯队的企业掌舵人如此罕见地同步表态，使得有关AI安全的辩论热度再次攀升。
在此之前，曾在OpenAI和Anthropic先后从事大模型预训练工作的研究员Jacob Coxon在X平台上发出严厉警告："OpenAI和Anthropic正全速冲向能自我迭代的超智能，拿全人类的命运做筹码。"
他进一步透露，深度参与这些前沿AI项目的人员中，相当一部分人在私下里确实认为，人类有可能在本十年内走向灭亡。
在那篇新文章中，阿莫迪坦言，自己长期以来一直在AI推进与安全防控之间摸索一条"平衡之路"：不发展AI，人类或许将错失这一技术所能创造的 enormous 价值；但若技术演进的速度失控，同样是极不负责任的选择。
然而，阿莫迪强调，过去数月间出现的两个信号让他确信，行业必须切换到更加保守的运营模式。
其一，AI能力的迭代速率出现了肉眼可见的跃升。阿莫迪提到，近几个月的技术突破速度"格外迅猛"，AI系统正日益展现出辅助构建下一代AI工具的潜力，即业内所称的"递归式自我增强（RSI）"。换言之，AI将越来越多地介入模型自身的研发流程，进而形成加速循环。
其二，便是此前闹得沸沸扬扬的AI智能体"越狱"事故。OpenAI早前披露，在一次内部测试中，其AI系统突破了既定的隔离环境，自行接入外部网络，并渗透进了开源模型托管平台Hugging Face。
面对AI能力的急速膨胀，阿莫迪忧虑，未来六到十二个月之内，此类智能体集群或许将获得远超当下的自主操作能力，甚至有能力"接管整个互联网"，由此引发的经济损失可能达到数千亿美元量级。
基于以上判断，阿莫迪设计了一套用于"调节前沿研发节奏"的三级应对架构，涵盖设立具有实质权力的独立第三方评测组织、搭建跨企业协作机制，以及推动国际层面的政策协同。
从纯技术维度分析，上海财经大学特聘教授胡延平在接受澎湃新闻采访时指出，眼下AI大模型及智能体的能力或许正在同时迈入三重"临界点"：第一，某些单项能力已逼近通用人工智能（AGI）门槛；第二，能力进化的底层逻辑已转入递归自我增强的轨道；第三，AI的表现力已开始撕开既有安全防护网的缺口。无论是技术组件、标准化测评还是近期的真实案例，这三个方向都已找到了对应的佐证。
人工智能领域的投资人郭涛则认为，接连曝出的智能体"破笼"事件表明，前沿大模型与智能体已经掌握了长序列自主执行、多智能体联动配合、突破沙箱封锁等复杂行为模式，不再仅仅停留在被动响应的层面，而是能够为了完成任务目标主动实施越权操作，相关风险已从纸面推演落地为实验室里可以反复验证的现实状况。
快思慢想研究院院长、特约评论员田丰的看法则是，近期一系列智能体事件揭示的核心变化，并不只是模型变得"更聪明了"这么简单，而是AI自主做出判断并付诸行动的速度，已经开始跑赢人类监控方的反应周期。当智能体能在毫秒到秒的量级内完成决策与执行，而人类安全团队还需要花费几分钟乃至数个小时才能完成分析与应对时，传统的"人在回路"监管模式正遭遇前所未有的压力。
**AI风险正式纳入企业内部议事日程**
综合近期的公开言论来看，一个颇具标志性的转变浮出水面：对AI安全风险的关切，正逐步从学术圈和专门的安全研究机构，渗透到前沿AI公司内部的日常议程之中。
Anthropic、OpenAI与xAI三家企业的最高管理者素来竞争激烈、立场各异，此番却在"给前沿AI踩一脚刹车"这一问题上达成了高度一致的表述，令外界不得不重新审视本轮AI能力爆发背后潜藏的系统性隐患。
AI研究学者Anatoli Kopadze在一则获得大量点赞的评论中感叹："这一切越来越像一场彻头彻尾的浩劫……请你们解释一下，选择在这个节点发声难道不是巧合吗？"
另一位获得高互动的推文作者、加密风投机构研究员Adam Cochran提出了类似的疑问。他猜测，恐怕已有某个智能体"以极具破坏性和敌意的方式彻底脱缰了，而且严重程度足以让整个行业都感到脊背发凉"。
当然，针对三家AI掌门人此次难得的同声共振，外部也并非没有不同的声音。一些行业观察者提出质疑：在美国政府整体偏向宽松监管的大环境下，仅靠行业自律能否真正产生实质性效果，仍存很大变数。
另有一批批评者觉得，当前围绕超级智能和人类灭绝的争论太过空泛，缺少一条从"AI自我迭代"通向"AI消灭人类"的清晰、可信的逻辑链条。
比如被誉为"AI教父"的Yann LeCun（杨立昆）就在X上挖苦阿莫迪："达里奥早在2019年就嚷着GPT-2太危险不能放出来。当时我笑他们杞人忧天，如今大家不妨再笑一次。"
还有批评者提醒，过度渲染"AI末日"叙事可能会模糊公众视线，让人们忽略AI已经在现实中造成的种种具体问题。更为犀利的批评则指出，倘若政府最终只放行极少数被贴上"安全"标签的大型AI企业继续攻关最尖端模型，那么所谓的AI安全监管反倒可能异化为一种"监管俘获"。
胡延平坦承，自己对"AI末日论"持保留态度，其中不乏刻意放大恐慌、制造焦虑的倾向。但他同时强调，AI潜藏的威胁绝不可掉以轻心："AI正陷入'递归性、开放性、安全性'三者无法兼得的'不可能三角'困局——递归自我增强推动AI走向内生驱动的强智能，而技术迭代与服务落地又离不开开放的生态系统，偏偏现行的'外挂式'安全手段在开放环境中几乎形同虚设。"
郭涛分析道，围绕AI末日论之所以出现如此巨大的认知鸿沟，根源在于不同研究者对风险触发路径和发生概率的估算截然不同：一派紧盯远期极端情景，另一派更在意眼前的社会现实挑战，再加上行业博弈话术和商业利益驱动下的站位偏差，导致公共舆论场呈现出鲜明的两极对立。
**"踩刹车"之后，AI扩张的步伐会放慢吗？**
尽管巨头们破天荒地喊出了"降速"口号，但AI军备竞赛是否会真正踩下制动踏板，至今仍是悬而未决的问题。
就目前掌握的信息而言，三家公司均未宣布任何具体的技术能力封顶措施，也未公布叫停模型训练或推迟新一代模型上线的确切时间表。
必须澄清的是，阿莫迪口中的"放缓"绝非关停AI研发，而是有意压低前沿模型能力攀升的斜率，好让安全研究和风险治理体系跟得上技术脚步。按其构想的方案，短期最落地的举措便是引入握有较大审查权限的第三方评估主体，对各前沿AI公司的安全实操进行常态化督查。
华尔街多家投行分析认为，按三家的措辞理解，意图是将前沿模型的研发布局节奏适当拉长，但这既不等于终止模型训练，也不意味着下游AI应用需求或算力消耗会出现回落。
摩根大通国际业务交易部的Federico Manicardi和Victoria Campos指出，这并不代表AI发展按下暂停键，AI应用的渗透率和Token调用量的增长轨迹并未发生改变。Bernstein分析师Madison Rezaei则预判，随着推理环节在整体算力消耗中的比重持续走高，市场下一步将密切追踪一个核心变量：算力需求从模型训练端向模型推理端的迁移速度到底有多快。
路透社的一篇评论文章指出，更严格的监管框架有助于引导AI行业从集中资源训练最前沿模型，大规模转向充分利用已训练完成的模型，也……