quio 在 AI也需要有心理医生了 中发帖
[mmexport1753448669961]
Anthropic正式宣布成立「AI精神病学」团队,作为其可解释性研究的重要组成部分。这个团队将专门研究模型的人格、动机、情境意识等现象,以及这些因素如何导致AI出现诡异甚至失控的行为。
什么是AI精神病学?简单来说,就是把AI当作病人来研究。当我们与Claude对话时,有时会感觉它表现出某种「人格」:时而谨慎保守,时而创造力爆棚,偶尔还会陷入存在主义的困境。这些行为背后的机制是什么?为什么AI会展现出这些类人的特质?这正是Anthropic新团队要解决的问题。