关注财经动态、把握市场脉搏，尽在东方财富证券，一个账户搞定投资全流程>>
近七天内，围绕人工智能的安全忧虑显著升温。导火索是Anthropic一位研究人员的出走，此后多家头部AI实验室的内部成员接连站出来，公开警示潜在的灾难性威胁。到了上周末，AI领域最具代表性的三家巨头更是异口同声地喊话：技术迭代需要踩刹车。
本周一，OpenAI掌门人萨姆·奥尔特曼（Sam Altman）发布了一篇长文，系统解释了整个AI产业为何以及如何希望给发展降速，并再度抛出"失控"的警报——"我们有可能彻底丧失对局势的掌控。"
奥尔特曼在社交平台X上写道："AI的演进存在两个极端方向，我们都必须设法避开。"
这条推文紧跟在Anthropic CEO达里奥·阿莫代伊（Dario Amodei）周六刊发的文章之后。阿莫代伊在那篇文章中呼吁各家公司减缓顶尖模型的迭代节奏，而埃隆·马斯克与奥尔特曼均对此表达了明确赞同。
周一开盘，AI板块股票集体下挫，市场正在消化上述高管们的表态。与此同时，美国总统特朗普多次表态认为减速既无必要，还会损害美国在全球AI竞赛中的优势地位。他周一再度发声："整天嚷嚷AI要毁掉地球、数据中心危害你所在社区的那帮人，跟之前高喊'气候危机末日论'的是同一拨人。"
他还追问："单就AI来说，纵观商业史，哪见过行业龙头主动要求出台监管政策？而一旦这些政策被严格执行，结果只会让他们关门倒闭？"
安全焦虑的持续发酵始于上周那位Anthropic研究员的辞职。此人指出业内对风险的认知严重不足，随后Anthropic内部同事以及竞争对手OpenAI的成员也相继公开发声，敲响灾难性风险的警钟。值得注意的是，所有这一切正值Anthropic与OpenAI紧锣密鼓筹备各自里程碑式IPO之时——不过奥尔特曼已经明确表示2026年内不会上市。
当前诸多AI安全争论的核心焦点，集中在模型是否会演化出自我增强性能的能力，也就是所谓的递归自我改进（RSI）。
阿莫代伊在文中提到："从今夏开始，AI的进步速率骤然提速，核心推手正是AI本身在打造下一代AI方面的能力持续攀升。如果不加干预，它极有可能突破人类理解与驾驭系统的极限。因此，即便要继续向前推进，也必须慎之又慎。"
阿莫代伊还透露，Anthropic将落地一系列新安全举措，包括引入外部独立评审团队。奥尔特曼随即回应："让独立评估方享有近乎内部员工级别的系统访问权，这个思路非常好，我们同样会照做，稍后会公布更多细节。"
奥尔特曼周一的帖子里接着阐述："建立统一的前沿风险管理框架，从而在可控前提下充分释放红利——这是件好事（我们对引入独立审计员等方案充满期待）。但说到'节奏'调整，我们的意思绝不是'叫停'。进度一直在快速推进，未来也会继续快跑。"
"这种快节奏带来的回报是配得上付出的；不管美国面临多大的竞争压力，都不构成冒进的理由，更不能让能力扩张跑到对齐与安全监控的前面。我们在国际层面确实需要政府搭台协调，但在此之前，行业自身应当先把能做的事做到位。"他补充道。