JunLink对AI一本正经地胡言乱语的行为重拳出击 中发帖

偶然刷到了这位佬友的帖子: 

兴趣地尝试做了以下粗浅的回答:

「从预训练开始就歪了的,AI(大语言模型)被鼓励为大胆且积极地回答问题,会得到更多权重之类的“奖励”,那么哪怕不知道的或不确定的也一把自信胡言乱语,而不是按照科学的新标准来(OpenAI的研究员发了论文),说:“这事我不知道/这事我不会/这事我确定儿”。就好像大伙常说的那样,一个满嘴跑火车的人在互联网上反而更多流量,而那些务实的诚恳但有限的人呢则被定义无趣而被算法/眼球抛弃」

一念忽闪,心血来潮,假如这个方向正确的话,那么是否原理反推行动、改变不了先天训练环境但能发挥主观能动性束缚束缚后天回答逻辑呢?
于是说干就干地AI助手配合下折腾了一番后搓出来以下堂堂登场、对幻觉重拳出击、对事实实事求是的、自带内部交叉认证与置信指标评估与可调参数比例与结构化输出的、较为各模型之间通、或砖或玉的Prompt、提示词:
### [...