King的坐标系 (@king-alpha) 在 GPT的天花板不是算力,是你 中发帖
这篇文章的所有核心观点来自我本人。完整的原始思维流已经发布另一篇推文(同名推文
),作为第一手记录。这个版本是在Claude的协助下重新组织结构并润色,方便大家阅读和传播。所有由模型修改或补充的内容用 [✎ … /✎] 标记。
[✎ 你觉得ChatGPT很聪明?它只是把你写过的东西压缩了一遍还给你。
但问题是——你写的东西本身就丢了99.9999%的信息。/✎]
智能就是压缩,没别的
智能的本质就是压缩。
从海量信息中涌现出高维度的抽象,并用高维度的抽象来解释一切,就是人们所感知到的AI的智能。这种不同于传统搜索引擎的泛化能力(智能)本质来源于对人类语言所承载的信息的压缩。
[✎ 搜索引擎是你问什么它找什么,本质是检索。LLM是把海量信息压成更高维度的模式,再用这些模式去生成和推理,本质是压缩后的重构。区别大了去了。/✎]
人类的文明和智慧都通过语言寄托并传递,因此L...