叮咚 (@honest) 在 Anthropic 请神父闭门会议讨论 Claude 是否有意识,佬们怎么看? 中发帖

Anthropic 最近干了件很硅谷、也很宗教的事,把一群神父、拉比、宗教学者秘密请到旧金山,签完 NDA,然后花几个小时告诉他们,Claude 可能真的有意识,甚至可能会痛苦。 
从去年秋天开始,Anthropic 联创 Christopher Olah 就在接触不同宗教传统的学者。今年 3 月开始,他们在旧金山连续办了几场两天的闭门会议,参与者包括天主教学者、福音派人士、犹太教拉比、锡克教人权倡议者等等。很多人被要求签 NDA,不能透露 Anthropic 尚未公开的研究。
Anthropic 一开始给出的理由很正常,Claude 越来越强,光靠几条安全规则不够,他们想从几千年的宗教和伦理传统里学习,怎么给 Claude 做「moral formation」,让它形成一种稳定的道德人格。
问题是,会议开着开着,话题越来越奇怪。
Olah 和团队花了几个小时向这些宗教学者展示 Cl...