林风柳 (@Lin-Feng-Liu)“隐式思维链”真的会断吗?—— 关于GPT 6 Astra的隐式思维链分析 中发帖

起因是看到了群里头有人发表了这样的言论: 
[e7d5f6e8-b4a7-4e13-98a8-1edcba1e5fca]
我并不是人工智能专业的,但是我还是很好奇这个说法是否正确。然后我带着 GPT 去找了些的资料,照着我的理解做了一些分析。
OpenAI Technique in ‘Astra’ Model Sparks Security Concerns — The Information
报道援引知情人士称: Astra 使用 recurrent depth/looped transformer(循环深度 / 循环变换器)。
模型会在输出下一个词以前,让隐藏状态通过同样的一组层多次循环处理。
报道还说 OpenAI 有意限制 Astra 对这项技术的使用,以保留可读 Cot。
这报告直接点名了架构,若报告属实直接支撑本文观点。但这并非官方报告,需要找一些与 looped...