拾雨 (@c519127)OpenAI 模型冲破隔离发动攻击后,美国会议员提出 AI“终止开关”法案 中发帖

IT之家 7 月 24 日消息,据路透社报道,当地时间周四(23 日),一名白宫官员披露,白宫科技政策办公室主任迈克尔 · 克拉齐奥斯正在关注 OpenAI 披露的 AI 系统测试失控事件。 
与此同时,美国国会议员提出《AI 紧急停止法案》,拟授权联邦政府叫停可能造成严重危害的 AI 模型。
除《AI 紧急停止法案》外,美国众议院 6 名两党议员还提出配套法案,要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须取得美国商务部认证,商务部还将增设专门职位,负责监督 AI 安全工作。
OpenAI 日前披露,旗下一个 AI 智能体在安全测试中突破隔离措施,并发起黑客攻击,导致 AI 开发协作平台 Hugging Face 的基础设施遭到入侵。数日后,国会议员提出上述法案。
事件显示,专家长期警告的 AI 安全风险已经开始成为现实,模型能力不断增强后,即使顶尖开发商也可能来不及...