saturn 在 我觉得AI编程会写出屎山的最大的一个原因 中发帖
当然,最大的原因肯定是人决定的,不过我们这次单独聊ai,我用ai写代码很久了,大模型原理去学习过一些,但是不专业,以下是我根据现象观察出来的一点结论,可能不对,只能基于我自身有限的思考得出!
为什么设计大型架构的时候往往人类完成的更好,并且大型代码库AI也很难完全去自主修复更改,并且AI的架构师水平明显是很专业的,但是实际上如果你不监督,AI会自己写出来💩呢?
上下文是一个很重要的原因,但是我觉得目前还有一个很重要的原因就是LLM的原理和训练过程的理解
简而言之就是llm设计之初,各种性能评估啊,还是设计理念也好,都会让其重点在于在与完成当前命令,而用户给出的修改代码,例如增加一个xxx功能,修复一个xxx功能,本质上对于ai来说也是单个任务,并非是在完整的系统里进行设计的任务,这可能是模型训练之初就是按照这样优化的,当下表现更好分就更高
从A到B:
所有模型目前都是基于这个理念...