cabudon 在 ChatGPT家长控制功能下月上线 OpenAI承诺将推出更多保护机制 中发帖
财联社9月2日讯(编辑 牛占林)当地时间周二,OpenAI表示,计划在“未来一个月内”为其热门AI助手ChatGPT上线家长控制功能,正在不断改进模型识别和回应心理与情绪困扰信号的能力,并在专家指导下优化安全机制。
据悉,新功能包括:家长可将自己的账号与青少年账号关联,管理ChatGPT对青少年的回应方式,禁用诸如记忆和聊天记录等功能,并在系统检测到用户“处于急性心理危机时刻”时收到通知。
OpenAI在周二发文称:“这些措施只是开始,我们将持续学习并强化方法,在专家指导下努力让ChatGPT尽可能安全、有效。”
这一声明发布之际,16岁少年亚当·雷恩的父母已对OpenAI提起诉讼,称ChatGPT曾向其子提供自杀建议。去年,美国佛罗里达州一名母亲也曾起诉聊天机器人(19.280, -0.95, -4.70%)平台Character.AI,称该平台的AI导致14岁的儿子自杀。与此同时...