吞天蛤蟆 (@TUNTIANHAMMA) 在 假如你是一个大模型,该如何建立自己的认知滤网? 中发帖
你给一段Prompt(提示词)给大模型,它会输出给你一段符合预测的文字。
你对人说一句话,他也同样会进行处理然后做出反应,认知科学管这叫预测加工。
人与人的每一次对话,本质上都是一次 Prompt 交换——你在他的模型里跑了一次推理,他也在你的模型里跑了一次。区别在于,你们各自的底层权重,决定了同一段输入会产出截然不同的输出。对方听到了什么、做出什么反应,不仅取决于你输入了什么,还涉及他的底层认知是如何被训练。
人对自我的认知,自信、价值感,本质就是一段内隐的提示词
Pre-training:婴儿时期,父母无条件的注视与怀抱,是我们的预训练,它构成了我们安全感与本能反应的基座;
RLHF:在成长过程中,纷至沓来的家里的规训、学校的红花与罚站、社会的脸色,是漫长的人类反馈强化学习,它塑造了我们的自我认知与核心设定——比如“我是一个体面、值得被爱的人”。这不仅取决于你的自...