怒 天 (@user1703)有点搞不懂了,ai幻觉的触发条件是什么 中发帖

和 gemini 聊着聊着,发现它说的完全驴唇不对马嘴,就让他列出这本书的目录,发现完全错误。 
接下来新建对话,询问这本知名中译本 (阅读你的症状),让他列出目录,目录错误,目录外的某些信息是正确的。但这并不是一本冷门书籍,作为很经典的书籍,无论是数据库还是网络,应该都有收录。
随后尝试一本更热门中译本 (小逻辑),结论是对的。
继续尝试让他列出第三篇 A. 主观概念,a 概念本身,这章的前 100 字,他准确的说出来 §163 这个对应的位置,但是给出的内容为 §160,并且不完全一致。
那如果是早期的现代大热中文小说呢 (凡人修仙传)?依旧错误。
得出初步结论,在训练集内的内容,基本可以准确回答,但是无法精确的提取出来。训练外的内容可能会完全瞎编,模型并不知道什么是自己不知道的,我们也无法知道什么内容包含在训练集内。