智子 (@sophon)大语言模型的思考能力 中发帖

都说大语言模型的原理是预测下一个词。并不理解问题和输出信息的含义。但是如果观察CoT的内容,很明显有思考过程。并不是单纯基于上下文预测下一个词。CoT里表现出的对问题的理解和推理能力是怎么实现的。