之前Bing还很火的时候，还可以通过提示词破解Sydney，养成傲娇大小姐。大家玩的不亦乐乎。 
也曾经看到因为和AI聊天带来现实害处的新闻，比如：https://36kr.com/p/3011572101702914 
这几天在网上看到一个新角度，来论证LLM【没有自我意识】： 

意识很重要，因为意识决定了你的主动性：你想要多赚钱，想要结婚，想要做个受欢迎的人，都是因为你有意识。如果AI也有意识，也有这么多想要，甚至有更怪异、更危险的想要，世界会非常麻烦。 
很多人相信AI只要继续迭代下去就会自动涌现出来意识，有些案例似乎表明AI已经有了一点意识行为，但是对大语言模型了解越多，我就越认为AI现在没有，将来也很难有意识。 
「意识」和「智能」是两种不同的东西。智能是精巧的计算，意识是主观的体验。我渴了想喝水，这是我的意识；我知道怎么拿起水杯喝到水，这是我的智能。 
目前为止，我们并没有一...