锦恢 (@LSTM-Kirigaya)从大模型的幻觉现象剖析开发 AI Agent 的技术瓶颈和解决思路|到底谁的幻觉更大? 中发帖

原文地址 https://kirigaya.cn/blog/article?seq=327 

前言
我的工作内容之一是开发blender的mcp,从而构建3d资产生成的agent(记住,是辅助!而不是全自动)。同时,我还是 OpenMCP 的作者,致力于打造闭环的 mcp agent 迭代与验证部署平台。如果你经常逛AI圈子,会发现一个现象,demo千千万,能用的,好用的产品却非常稀少。这里面涉及到的技术问题很多,你硬要我说出最关键的「问题」,恐怕就是下面两点了:


大模型的幻觉


你的幻觉



[图片]

大模型的幻觉
相信大家多多少少都看过网上一堆大V天天在那边跟你讲什么「aha moment」,「四步微调」,「幻觉严重」,但是真的什么是大模型的幻觉,相信只是浅尝辄止使用过大模型的朋友未必有一个立体的认知。
大模型幻觉的定义
大模型的幻觉存在很多不同的定义,但是对于开...