moshangmoyu 在 大佬们,关于LLM的反作弊要怎么做到呢?有思路吗? 中发帖
最近友友想做一个跑团机器人,带朋友去和ai玩,但是有一个绕不过的问题就是LLM那一边会不自觉的偏向玩家,或是发展一直偏心玩家,或者是玩家如果带引导性的回答会让llm就这么给,我研究了一下L站的十梦小游戏,发现也有这个问题,他虽然防止了提示词注入,但其实更多的是不用注入,直接带一点引导,比如说主角回忆起了前世的事情,发现了一个可以利用的机缘,这样子,就可以绕过反作弊,不知道是我本地搭建的问题吗? 用的模型有哈吉米2.5 GPT 和小克都试过了 都能这样把ai绕过去,我有想法就是agent不知道是不是正确的方向