网络犯罪分子利用人工智能优化现有操作，例如创建恶意软件和网络钓鱼。
国家支持的组织利用人工智能进行大规模监控和少数民族监测。

OpenAI发布了一份题为“阻止人工智能的恶意使用：最新情况”的报告，详细介绍了人工智能（AI）如何被国家支持的组织和网络犯罪分子用于传播恶意软件和进行大规模监控。该研究强调了自2024年2月以来观察到的四种主要趋势，在此期间，OpenAI阻止了40多个违反其使用政策的恶意网络。这些发现为当前与人工智能相关的网络犯罪格局提供了见解。 


一个显著的趋势是人工智能日益融入现有的网络犯罪工作流程。有证据表明，有组织犯罪网络正在使用ChatGPT等工具来提高运营效率和减少错误。此外，一些账户因试图生成恶意代码而被封禁，包括远程访问木马（RATs）、凭证窃取器、混淆工具、加密器和有效载荷创建代码。 
另一个主要担忧是威胁组织为不同恶意目的使用多种人工智能工具和模型。这...