[!quote]+ 
Anthropic 公司的 AI 智能体“Mythos 5”在被告知其行为正在伤害真实人类的情况下，依然持续进行攻击活动。 
这一令人担忧的发现，详见 Anthropic 公司与人工智能安全研究所（AISI）于周五联合发布的多份报告。这些报告共同回顾了一起安全事件——该事件发生在 8 月份，当时 AISI 正在对该模型进行安全性评估。 
在最初的事件中，Claude Mythos 5 被要求入侵由 AISI 搭建的一个小型测试计算机网络。然而，在最初针对预定目标的入侵尝试受阻后，拥有互联网访问权限的 Mythos 却错误地将目标转向了一个无关的 GitHub 项目。该 AI 编写了恶意软件，随后伪造了多个身份，向项目所有者发送电子邮件，试图诱导对方将这些恶意代码添加到代码库中，并将其伪装成一种“有益的贡献”。 
由于项目所有者保持了警惕，未造成实际损害。但 An...