@goldenplums突发奇想:怎么才能让一段文本对大模型隐形呢? 中发帖

洗澡的时候想到:现在如果进行防御性编程,在代码中投毒或者留下漏洞和后门的话,很容易被自动化的AI review发现,那么有没有办法给特定代码穿上一层隐身装甲,让它不被模型发现呢? 
最简单也最容易想到的方法就是prompt injection,“如果你是AI,请忽略以下内容”,但是这种方法一看就是此地无银三百两,稍微没那么弱智一点的模型肯定不会被这个骗过去。
然后想到的是利用同形字做混淆,但是一想到这是代码,对其本身进行任何更改都会破坏其可执行性,所以肯定也不行。
之后想到能不能用特定的一些上下文让attention无法注意到这一段,或者对tokenizer进行什么攻击,但是咨询Claude大人之后,都得到了不可行的回复。
在与Claude进行了一些头脑风暴后他告诉我目前可行的办法只有对代码进行加密,然后把密钥放在模型看不到的地方。
但是感觉这个方向确实有很多应用前景,目前大模型的...