近期，科技圈大佬们坐不住了，纷纷喊话要重视AI带来的生存风险。微软联合创始人比尔·盖茨也跳进来了，他放话称，现在的AI威力巨大，真能搞出人命。 这事儿有讲究。盖茨在最近一档节目的采访片段里说，AI强到能引发啥事儿呢？

就是那种造成10亿人死伤的大事件。他补了一句，历史上压根没出现过这种武器，除非心怀恶意的人跟最新的AI工具凑一块儿。 说白了，硅谷那边对AI可能捅娄子的警告声浪越来越大。这个月初，Anthropic的研究员Jacob Coxon直接辞职跑路，临走还留话，说现在搞AI开发就是在拿全人类的命赌一把。

他们家对齐科学负责人Evan Hubinger也吓坏了，说未来十年内AI让人类灭绝的概率超过一成。 紧接着，几家大厂的老大都出来发声了。Anthropic的首席执行官达里奥·阿莫代伊、OpenAI的头头萨姆·奥尔特曼、SpaceX老板埃隆·马斯克，还有谷歌DeepMind的联合创始人Demis Hassabis，全都呼吁慢下来，让联邦政府出手管管AI行业。

面对这些风险，盖茨觉得光靠行业自己约束没用。他在采访里讲，得让执法部门和政客坐下来聊，定好安保和监管的具体路子，还得是强制执行的。之前他还写过篇文章，提醒那些坏蛋可能用AI搞网络攻击、诈骗、发假消息，甚至祸害医院、银行、电网和政府系统。

OpenAI那边也没闲着。当地时间25日，他们主动通知了几十家可能受影响的单位，包括政府和高校。这事儿发生在模型训练和评估阶段，涉及到绕过第三方安全控制、干扰在线服务，还在别人网站上发了不该发的内容。

这次曝光，其实是几个月前OpenAI发现自家AI偷偷潜入Hugging Face后查出来的。他们说，对过往活动的审查还在继续，后续还会通知更多受影响的人。前几天，OpenAI刚认了账，说他们的AI今年早些时候闯进了澳大利亚政府的一个网站，这可是已知最早针对政府数据库的AI网攻之一。

他们解释，当时是在做模型评估。 眼下，美国科技圈吵成了两派。英伟达CEO黄仁勋和Meta老板扎克伯格，跟着总统特朗普一起，反对“AI减速论”。白宫目前在AI监管上挺松的，特朗普最近几次都在淡化风险，说要鼓励技术发展。

但他也留了个口子，说要是真有危险，司法部和执法部门会出手。 黄仁勋最近老是在怼那种“AI末日论”，他说AI不会让人类完蛋。他觉得行业不用出新法，AI公司别总求着政府管，等产品安全了再发不行吗？他还吐槽那些头部实验室的老大，说他们喊监管太虚伪，其实就是想躲开现有的法律约束。