长期以来一直认为 Transform + Scaling （全知全能上帝模型）是无法通往 AGI 的。 
人类的智能泛化： 
人类具备极好的泛化能力，这些能力有些来着祖先百万年的演化，有些来自后天学习（如驾驶汽车、 电工等近现代新技能），但往往不需要千万、百万的数据训练，新学习的技能就能够具备极佳的鲁棒性，大脑神经元也会在工作过程中发生变化。模型是否应该往持续学习（随工作高效调整权重）的方向研究，而不是企图造一个学会所有当下人类知识的模型。 
意识真的来自于智力吗？ 
自从 ChatGPT 3.5 开始，人们开始相信随着大模型参数和智力的增加可以涌现出意识，Anthropic 甚至在论文中暗示会出现意识。但意识真的是从智力中涌现的吗？似乎不是，弱智、唐氏、精神病人、猫、狗都具备意识，它们的智力（按当下的智力定义）远低于 Feble 5 等大模型，但仍然具备意识。或许依靠智力来涌现意识本身就...