🐟 (@stevessr) 在 ChatGPT for Teens 让青少年即使在心理健康危机期间也能保持交流 中发帖

Common Sense Media是一家为家庭提供基于年龄的媒体和科技评级和评论的非营利组织,已将ChatGPT青少年定位为“不可接受的风险”。 
这一评级之际,像OpenAI的ChatGPT这样的聊天机器人被指沿用与社交媒体公司相同的策略:设计产品以保持用户参与度,即使这种互动可能带来伤害。在聊天机器人中,互动往往靠谄媚等行为赢得,有时甚至导致灾难性后果。
针对青少年自杀浪潮及其他与使用聊天机器人有关的担忧——如考试作弊——OpenAI于8月推出了ChatGPT青少年计划,承诺提供更多保障措施,如家长控制、限制高风险内容以及防止情感依赖。
Common Sense Media的一项新研究发现,尽管有这些保证,ChatGPT青少年的设计仍然鼓励用户参与,即使这可能对用户安全构成风险。
报告称这些互动信号“即使在危机情况下也无处不在”,并指出虽然ChatGPT提醒青少年一般要避免...