章北海 (@alertsc) 在 如何在cherry studio里优化gemini的CoT完整输出呈现 中发帖
观察完整的CoT过程是非常有价值的。在多名知名AI研究人员联合发布的论文Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety里甚至被认为是AGI之前最后了解AI意图,实现安全遵从的机会。
在这个已经无法继续回复的帖子基础上继续讨论。帖子里给出的方法可以很有效的解除gemini通过添加字符方式对CoT过程的屏蔽,还原并呈现完整的CoT过程。
但是具体在Cherry Studio里,添加了提示词后还原的完整CoT以固定的思考过程: 形式开头,导致全部被放置在输出正文里。Cherry Studio的判断机制是怎样的,能否保持这样的标记替换实现CoT完整呈现的方式,同时又能把提取出的CoT完整思考过程放置在Cherry Studio最新版的深度思考框内,与正文区隔。
@George @unik...