原文:OpenAI正在扫描用户与ChatGPT的对话 若用户试图伤害他人则消息会被转发给警方- 蓝点网 

ChatGPT 是有史以来用户量增长最快的应用，也是目前人工智能应用里用户数量最多的应用，不过现在有越来越多的报告指出人工智能聊天机器人导致人们自残、妄想、住院、被捕或自杀等。 
OpenAI 在最新博客中承认该公司在用户心理健康危机中存在的某些失误，同时该公司透露目前正在扫描用户消息中的某些类型的有害内容，在必要的情况下这部分内容将会被报告给警方。 
具体来说当系统监测到用户与 ChatGPT 的对话中包含伤害其他人的消息时，OpenAI 将会把这部分对话路由到专门的通道，然后交给 OpenAI 培训过的小型团队进行审查。 
这个小型团队有权对用户账户采取行动，例如直接封禁用户账户，如果人工审查人员认定某个对话涉及对他人造成严重身体伤害且情况比较危急时，工作人员可能会将相关信息提交...