pigeon li 在 人工智能必须要使用加权矩阵计算吗 中发帖
在人类思考中,普遍LLM都使用的是黑箱概率推理,比如我像ai发几个token,而则会被解析成高维向量,然后降维去理解。但是我们不妨去看看理解过程,你就会发现很多问题:各大科技公司都在向AGI方向努力,但是过程却还是普通的NN神经网络,这个方法确实解决了符号AI只会黑白判定的问题,但是新的问题是理解过程和推理过程是黑箱。虽然和人类差别不大,但是人类思维的最小能优先却没有被设计在内(学习使用过去经验解决问题),而是使用巨量数据暴力拟合。结果就是:模型只是一个算法,输入问题和上下文,输出回答。而一旦缺失上下文输出的回答将从头开始,上下文越多,计算量越大。没有最小能捷径,而是通过上下文计算要回答内容的概率。这不是纯暴力美学嘛?符号AI真的有错吗?