🐟 (@stevessr) 在 微软:假如给我十个神经元,我可以给LLM埋入后门 中发帖
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
[17944672850167158926205957111893]
微软研究人员发现了一种名为“拉撒路”的后门技术,它可以重新编程人工智能模型中休眠的神经元,使原本正常的AI代理在隐藏的触发器出现时执行恶意命令。
对于拥有工具或终端访问权限的人工智能代理而言,这种威胁尤其严重。一旦模型被触发,便可在不经意间下载并运行攻击者代码、窃取机密信息或执行破坏性命令,同时还能通过标准的安全性评估。
这些后门无需重新训练模型即可插入,并且很难通过常规测试检测到,因此模型来源和权重完整性成为关键的安全问题。
为了保护客户,Microsoft Foundry 会...