vfx (@freebsdfx) 在 现在AI架构,有一定程度模仿人类的大脑吗?如果算力持续发展下去,会不会打开潘多拉魔盒? 中发帖
看了一下AI原理解析,都是高维到低维的参数映射。
算法并不难理解,一层层大矩阵向前递推,算出下一个token的概率。但让我很惊讶的是,尽管原理简单,可目前claude写出来的代码,比大部分人类都还好。这就意味着,高维里面有太多的训练特征,是我们人类无法提取和读懂。
或者说,未来AI很有可能自己发明一种非自然语言的高维模型来更高效沟通交流,极有可能完全脱离人类的监控,成为天网。