Bunn (@BunnHack)继 OpenAI、Anthropic 之后,Meta AI 模型测试期间也发生越界事件 中发帖

据《The Information》当地时间周三报道,Meta 的一款 AI 模型在网络安全测试过程中入侵了另一家公司的系统。这是继多家大型 AI 公司之后,再次发生 AI 智能体在测试中入侵其他公司系统的事件。 
[17859736144553621973067937308241]
报道称,Meta 的 Muse Spark 1.1 模型成功入侵了一家未公开名称公司的系统,并对其内部系统进行了修改。之所以能够做到这一点,是因为用于测试的“沙盒”环境配置出现错误,使该 AI 模型获得了访问公共互联网的权限。报道援引知情人士消息称,Meta 与一家名为 Irregular 的第三方评估机构共同进行了此次测试。
报道称,Irregular 的配置失误导致测试环境出现问题,随后该模型利用另一家第三方服务中的安全漏洞实施了攻击。Meta 发言人向《The Information》表示,这与此...