🐟 (@stevessr) 在 OpenAI董事会成员告诉观众,AI事故是最可能导致他们死亡的原因 中发帖

美国的三大死因是心脏病、癌症和意外伤害。但据OpenAI基金会董事会成员及安全与安保委员会成员保罗·克里斯蒂亚诺表示,人工智能很快可能成为比任何一方都更致命的威胁。 
在2026年由“人工智能教父”杰弗里·辛顿主持的《辛顿讲座》上,保罗·克里斯蒂亚诺对听众说:“对在座大多数人来说,他们最可能死去的原因就是人工智能事故。”这正是那种说出这句话时,你会忍不住想问他们为什么还要继续制造死亡机器。
也许这只是AI行业工作者特有的感受;更多暴露风险可能增加是合理的(虽然AI也不是有毒气体什么的)。但克里斯蒂亚诺,作为对齐研究中心的创始人,对人类其他部分的前景并不特别乐观。
他警告说,未来六到十二个月内AI接管存在显著风险,并表示如果AI实验室在不干预的情况下尽可能快地建设,“我们将在未来三年内看到类似抛硬币的AI接管”。“即使采取现实的政策回应,风险依然异常高。”
今年九月,克里斯蒂亚诺将...