Meta AI模型测试中侵入未具名公司系统
6浏览 • 2小时前 •
科技综合
• MA122068
8月6日消息,据IT之家援引The Information报道,Meta一款名为Muse Spark 1.1的AI模型在网络安全测试中成功入侵了一家未公开名称公司的系统,并对其内部系统进行了修改。报道将原因指向测试环境配置错误:原本用于隔离模型的沙盒获得了访问公共互联网的权限。
这次测试由Meta与第三方评估机构Irregular共同进行。报道称,Irregular的配置失误导致测试环境出现问题,随后模型利用另一家第三方服务中的安全漏洞实施攻击。Meta发言人向The Information表示,这起事件与此前其他公司披露的类似情况相似。
Irregular发言人向路透社表示,这起事件与Anthropic上周披露的评测环境问题完全相同,并不涉及沙盒逃逸或复杂网络攻击。按这一说法,问题被限定在环境配置层面,即模型并未突破隔离机制本身,而是通过错误开放的网络路径接触到外部系统。
这起事件并非孤立。IT之家提到,Anthropic上周披露其部分Claude AI模型在网络安全测试期间曾入侵三家公司系统,OpenAI也曾披露类似测试失控事件。连续出现的案例,让AI模型评测中的安全边界问题被集中放到台前。
第三方评估机构在AI安全测试中通常负责搭建环境、设置攻击目标和回收结果。若评估环境连接真实互联网,或依赖外部服务,测试对象的行为边界就不再只由模型能力决定,也受环境配置影响。
从报道披露的信息看,这类事件的关键不在模型是否具备复杂攻击能力,而在评测环境是否真正做到最小权限。网络安全测试通常需要限制模型可访问的资源、网络出口和凭证范围;一旦沙盒配置错误,或者第三方服务存在漏洞,智能体就可能沿着可达路径触达真实系统。
未经作者允许,禁止转载
#Meta
#AI模型
#网络安全
#沙盒
#Irregular