墨尘 (@inkdust2021) 在 为防止再出现codex删库的悲剧,我想做一个项目…… 中发帖
事实上,已有前人做过类似的项目,例如NVIDIA NeMo Guardrails、 LlamaFirewall等,但是它们的部署似乎不太方便,在站内我几乎没有看到有佬友提到过这些项目。
所以,我在想能否做一个足够轻量化、部署足够方面的项目,作为“防火墙”,来防止这种悲剧上演
正好,我还有一个用于vibecoding时保护隐私的项目,是否可以将这个功能加入到我的原有项目中,我目前的思路是,基于正则+再接一个小模型的api,单独用于判断LLM想要执行的命令是否有害
不知各位佬友意向如何,遂先来发帖问一番