狐狸二号 (@aozix) 在 【讨论】角色扮演对 AI 可能毫无用处,除了心理安慰 中发帖
我在使用AI时,经常会给AI加上复杂的提示词约束,例如“你是个顶尖的xxx”,或者感觉利用一些语用学技巧来“诱导”模型输出的更好。但是有时明明塞了很多Cosplay提示词,但是除了看起来输出的好看,实际效果的确并没有很好。
去查了些资料现在更加觉得,角色扮演对 AI 可能毫无用处,除了对自己的心理安慰(看起来AI回复的更多、更少、更客气、更愤怒,但是毫无价值)。
因为AI就是个概率引擎,给它什么上下文,它就在那个上下文对应的统计分布里输出。真实的顶尖工程师不是说“你是个顶尖xxx”他就真的顶尖了,反而营销稿、简历鸡汤、自我包装、职场话术会经常出现这些话术。
这就导致AI很可能会滑向这类废话、低密度语域,不是“更认真”,而是更会表演。会模仿一种风格:大段解释、泛化的最佳实践、好听但不落地,讨人喜欢,但不干正事。
人写提示词时有两种痛苦:
第一种是能力痛苦:不知道怎么把问题讲清楚...