https://jiajia.fun/a/f7720856-8ab0-4bff-a979-1edcc09adfb0-%E5%BE%AE%E8%BD%AFlazare%E5%8D%9A%E5%AE%A2%E5%85%B3%E4%BA%8Eai%E6%9D%83%E9%87%8D%E5%90%8E%E9%97%A8%E8%AE%B2%E4%BA%86%E4%BB%80%E4%B9%88

# 微软Lazare博客关于AI权重后门讲了什么

微软博客揭示了无需训练或微调的权重后门攻击：仅重编程不到10个休眠神经元即可在特定条件下触发恶意命令，防御需靠权重完整性校验与最小权限。

## 要点

1. 利用预训练表征的线性特征，仅用约50个样本即可将休眠神经元改造成特定条件（如日期触发）的触发器。
2. 被改造神经元激活后直接向residual stream注入目标token，多个串联即可拼出任意终端payload，仅需推理算力。
3. 攻击只需checkpoint写权限，自研与开源模型均受影响；防御应把权重当代码审计，做版本diff、签名与供应链溯源。
4. 对工程实践的启示：不能仅靠eval通过作为验收，需建立权重指纹比对，并严格按最小化原则切分agent工具权限。

## 来源

- [原始讨论 1](https://jiajia.fun/qa/f050cf24c17468d451669b91)
