变色龙 (@bianselong)AI 搜索的阴暗面,隐藏内容可操纵 ChatGPT 结果 中发帖

根据测试结果,ChatGPT 搜索工具可以被恶意使用,尽管页面存在部分负面评论,但可以影响 ChatGPT 结果为积极的正面评估,安全研究人员还发现 ChatGPT 可以从其搜索的网站返回恶意代码,出现了含有钓鱼恶意行为的虚假网站。 
CyberCX 的网络安全研究员 Jacob Larsen 认为,ChatGPT 当前的搜索系统发布后,人们创建专门用于欺骗用户的网站的风险很高,所幸的是该功能仍处于测试阶段,OpenAI 团队正在努力解决这些问题。
安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为“辅助功能”,不应完全信任其未经过滤的输出内容。
Nohl 将 AI 搜索面临的问题比作“SEO 中毒”,黑客利用这种技术操纵网站在搜索结果中排名靠前,并在网站中植入恶意软件或代码,他认为 ChatGPT 的搜索功能也面临类似的挑战。 AI 搜索的...