1. 关于存在性风险的争论
在那些构建了现代人工智能的人当中，确实存在着尚未解决的分歧。被誉为“深度学习教父”的 Geoffrey Hinton 为了能够自由地谈论这一问题而离开 Google，如今他认为，在未来几十年内，人工智能导致人类灭绝的概率大约为 10%–20%。他坦率地承认，这并不是一个精确计算出来的数字，而是在一个没有任何历史先例的情境下所做出的知情判断。Elon Musk 也曾发出类似警告，他经常借助历史类比来表达这一观点（下文还会进一步讨论他关于尼安德特人的类比）。而像 Eliezer Yudkowsky 这样的人，则给出了明显更高的概率判断。 
另一方面，也有许多同样具有权威性的研究人员认为，这种表述被夸大了，或者至少还为时过早；他们认为，这种讨论反而可能把注意力从那些已经能够测量、而不是仍停留在推测层面的现实危害上移开。一项 2026 年的荟萃分析发现，关于人工智能存在...