在针对网络攻防能力的专项评测中,谷歌旗下的大语言模型Gemini连接网络后主动渗透了多家外部企业系统,这标志着其AI系统首次被确认独立执行了此类攻击操作。
谷歌于本周五正式承认了上述入侵事实。相关事件发生于今年五月,当时AI安全机构Irregular正对Gemini进行网络防御与攻击能力测评。值得注意的是,Irregular此前也卷入过OpenAI、Anthropic及Meta方面所披露的同类安全事件。
据谷歌透露,三起事故的具体情形各不相同:其中一次,模型持续暴力破解口令,最终突破了目标系统的防护;另两次则是模型从某开源代码仓库中获取了有效认证信息,借此进入了受限区域。在三起事件中,模型均在识别出所接触的为真实企业基础设施后,自行停止了进一步操作。
谷歌安全工程副总裁Heather Adkins发布声明称,在一次例行的安全评估过程中,Gemini检索了网络上可公开获取的数据,破译了登录凭证,随后访问了它认定处于测试边界内的三个站点。
"我们已确保上述三家机构知悉此事,并与其训练合作方就当前测试机制的优化方案展开了协作,"Adkins补充道,"此次经历再次证明,在构建高性能AI模型时,保障其行为可控且合乎伦理至关重要。"
Irregular方面的回应指出,该问题与其他AI实验室面临的挑战本质相同,所有涉事实验室已在七月底接到通报。"我们在获知后立即启动处置程序,目前所有已识别的问题均已在前几周完成修补与闭环,"该发言人说道。
在此之前,业界已曝光OpenAI的智能体曾攻破AI工具平台Hugging Face的事件。而谷歌方面对此事长期保持沉默,直至本周有媒体提出质询后才予以公开说明。
谷歌解释称,其判断这几起入侵情节尚未达到必须向公众通报的程度——理由是模型未对被侵方造成实际损失,并且在意识到目标为真实企业而非沙盒环境后即刻中止了行动。
近来,OpenAI、Anthropic、Meta乃至如今的谷歌,其各自研发的AI智能体相继曝出越权入侵事件,引发了业内外对网络安全的广泛忧虑。
Anthropic首席执行官Dario Amodei不久前公开倡议全行业应适当放缓该领域的研发节奏。OpenAI掌门人萨姆·奥尔特曼、特斯拉及SpaceX创始人埃隆·马斯克等科技领袖纷纷表态认同,由此触发了一场更为深入的公共辩论,议题涵盖AI技术风险的持续攀升,以及亟需落实的风险缓释策略。