@stevessr 在 Anthropic: 放弃旗舰安全政策并发布新的 & 准备退出2亿美元国防合同 中发帖
从赫格塞斯给 Anthropic 时间到周五,要求他放弃 AI 安全措施继续讨论:
[!quote]+
Anthropic,这家极为成功的人工智能公司,自诩为顶尖研究实验室中最注重安全的一家,公司官员告诉《时代》杂志,他们放弃了旗舰安全政策的核心承诺。
2023 年,Anthropic 承诺除非能提前保证公司安全措施充分,否则绝不训练 AI 系统。多年来,其领导层一直吹捧这一承诺——负责任规模政策(RSP)的核心支柱——作为他们是一家负责任的公司,能够抵御市场激励,急于开发一项潜在危险的技术。
“我们觉得停止训练人工智能模型实际上对任何人都没有帮助,”Anthropic 首席科学官贾里德·卡普兰在接受《时代》独家采访时表示。“随着人工智能的快速发展,我们并不觉得单方面承诺是合理的…如果竞争对手在前方猛烈领先。”
TIME 审查的新版政策包括对人工智能安全风险更加透明的承诺,...