yangze (@cyangze) 在 【求助】 上个帖子"公司老大要求搞AI 全自动化开发”,佬友列举的三大问题,让我更焦虑了 中发帖
前两天发了个帖 老大想搞“ai 全自动开发闭环” ,说公司老大突然拍板要研究"AI 全自动化开发流程”。原本没想那么多,发一个帖子以为会收到一些落地方案,结果大家的集体回复反而让我陷入了更深的焦虑。
虽然大家认为目前的 AI 距离“全自动”还是有一定的差距,主要基于三个问题:
幻觉:AI 为了修复一个 Bug A,可能误改底层逻辑 B,导致模块 C 崩溃;接着它为了修 C 疯狂打补丁,最终把代码库揉成一团毫无逻辑的乱麻。
算力与成本:全流程自动化的 Token 消耗和推理成本,对于小厂来说是否真的划算?
责任归属:如果真上线了,某天半夜 AI 自动发版删库跑路,造成几百万损失,这口锅是背给 Prompt 工程师,还是背给拍板的老板? 因为背给AI模型也不现实
这些观点很理性了,但我作为一个 小厂程序员,并没有感到轻松。相反,有一种 由于技术不成熟所以暂时安全,但一旦突破,我就随时被...