🥒 (@stevessrbackup) 在 Openai:阻断借助 AI 的“虚假掩护”行动 中发帖

https://openai.com/zh-Hans-CN/index/disrupting-ai-enabled-false-front-operations/ 
过去两年半里,我们发布报告,介绍了威胁行为者尝试滥用我们模型的多种方式。在这些活动中,他们试图利用模型开展网络攻击、隐蔽影响行动(IO)、诈骗,以及其他违反我们使用政策的行为。我们发布这些报告,是为了让监管机构、行业同行和更广泛的社会公众了解我们观察到的威胁行为者利用 AI 的企图,并揭示他们试图利用的薄弱环节。
我们近期封禁了两场影响行动,一场来自俄罗斯,一场来自伊朗。它们将我们的模型与更传统的手段和技术结合,用来支撑精心构建的“虚假掩护”实体。它们利用这些实体掩盖信息的真实来源,向目标受众传播有关地缘政治和冲突的宣传信息。伊朗行动使用了七个虚构“记者”身份,向全球中小型网络媒体推介长篇文章;俄罗斯行动则似乎利用了拉丁美洲...