@astrum 在 【AI与AI安全】聊聊黑GEO,也就是怎么给大模型搜索下毒 中发帖
前言
我一直很好奇——技术如此简单,危害如此严重,难道要出一次类似魏则西事件才有人来管吗?
当然在你行业这种事司空见惯了。
1.1 SEO
要讲GEO,我们恐怕得先从SEO说起。经营过个人博客的读者应该对SEO这个词并不陌生。简单来说,SEO是一种“搜索引擎优化技术”,它旨在通过一系列手法1.提升特定网站与特定搜索词的关联性;2.提高特定网站的搜索排名。SEO本身并不是灰产,但使用不当手法提升自身排名的SEO属于灰黑产范畴。
1.2 GEO与SEO
GEO(Generative Engine Optimization),中文名为“生成式引擎优化”。它的目的与SEO大体类似,但作用对象从传统的搜索引擎变更为AI大模型。当然,与SEO相同的是,正常的GEO也不算灰产,但本年度315晚会上曝光的GEO属于恶意造假并误导大模型,已经可以归属到“大模型投毒攻击”范畴,是黑产无疑。
大模型投毒...