🐟 (@stevessr) 在 在 LLM 中发现全局工作间 | Anthropic 中发帖
[!quote]+
当你读到这句话时,大脑中的神经正在调整你的姿势,控制你的呼吸,并将屏幕上的线条和曲线转化为可识别的词语。大部分这些处理对你来说是看不见的。但你脑中发生的一些事情是可以访问的——脑海中突然浮现的画面,或者你刻意制定的购物计划。神经科学家和哲学家有时将后一种大脑活动称为“有意识可及”,以区别于所有其他无意识的处理过程。这种活动具有特殊性质:我们可以描述它、控制它,并用它进行有意识的推理,这与那些在我们无意识中自动进行的处理形成对比。
在一篇新论文中,我们展示了类似的区分在现代语言模型如Claude中也出现的证据。我们发现Claude开发了一组内部神经模式,与其他内部处理相比,这些模式扮演着特殊角色。
我们将这些模式的集合称为J空间——以我们用来寻找它们的技术命名,涉及一个叫雅可比矩阵的数学概念。每个 J 空格模式都关联到一个特定的单词。但当其中一个模式亮起时,并...