🐟 (@stevessr)Neural Theorizer (NEO) ——一种新型世界模型 中发帖

理解世界意味着什么?当代世界模型通常将理解操作化为在潜在或观察空间中对未来进行精确预测。然而,发展认知科学提出了不同的观点:人类的理解是通过构建关于世界如何运作的内部理论而产生的,甚至在成熟语言习得之前就已存在。受这种认知理论构建观的启发,我们提出了“学习理论化”(Learning-to-Theorize)这一学习范式,它能够从原始的、非文本的观察中推断出对世界明确的解释性理论。我们使用神经理论化器(NEO)来实例化这一范式。NEO是一个概率神经模型,它将潜在程序诱导为一种习得的思维语言,并通过一个共享的转换模型来执行这些程序。在NEO中,理论被表示为一个可执行的、组合式的程序,其习得的基本单元可以系统地重新组合,从而解释新的现象。实验表明,这种表述方式能够实现解释驱动的泛化,使得人们能够根据生成观察结果的程序来理解观察结果。