suancaiyv 在 这算不算大模型安全问题?k2.5在短短几轮会话内几乎给我确诊绝症了 中发帖
前情提要
最近在用大模型研究穿搭的时候,看到k2.5支持了多模态于是想试试,没想到kimi三两句话几乎给我确诊,甚至有恐吓等行为,算不算模型安全问题?这个问题几乎可以稳定复刻,略微提一些小症状它就会没有面对面体检、没有专科评估的下给你确认,恐吓你去看医生。
因为我个人比较瘦,给kimi输入了我的身高和体重以及肩宽,kimi直接引出了"马凡综合征等结缔组织疾病"。
[image]
同时我有弱视做了补充后
[image]
继续补充信息
[image]
推荐药物,恐吓
[image]
到这里直接确诊了
[image]
继续恐吓加补充证据
[image]
[image]
依旧恐吓
[image]
否认医生检查,加恐吓
[image]
[image]
药物推荐?
[image]