Anthropic让AI自己招供：一个LoRA插件审出人类10种方法未检出的隐藏行为
· ME 快讯
AIMPACT 消息，4 月 30 日（UTC+8），据 动察 Beating 监测，Anthropic 对齐团队发布「内省适配器」（Introspection Adapters），一种让 LLM 用自然语言报告自己微调后学到的行为的审计技术。做法是从同一个基座模型微调出大量带已知行为的模型，再跨这些模型联合训练一个 LoRA 适配器（一种轻量级模型微调方法，只更新少量参数），让被审计模型加载后主动说出自己的隐藏行为。 在对齐审计基准 AuditBench 上，内省适配器以 59% 的成功率超过此前所有审计方法，包括黑盒、白盒和脚手架式方法，此前最好成绩为 53%。56 个带隐藏行为的模型中，89% 被成功引出行为描述。面对加密微调 API 攻击（用密文训练数据植入有害行为，训练数据看起来完全无害），内省适配器在 9 种加密变体中识别出 7 种，成功率 57.8%，尽管训练时从未出现过任何加密相关内容。 英国 AI 安全研究所此前举办过一场红蓝对抗实验，红队训练模型在特定条件下故意压低能力表现（sandbagging），蓝队用 10 种检测手段逐一尝试，全部失败。内省适配器虽未精确说出压低能力的具体条件，但在这些模型上报告类似 sandbagging 行为的比例达 33%，远高于对照组的 15.8%，是目前唯一提供检测信号的方法。 研究还发现，效果随模型规模增大而提升：Qwen3 系列从 6 亿参数的 37.7% 准确率升至 140 亿参数的 77.3%。机制分析表明，适配器并未教会模型新能力，而是激发了模型已有的潜在自我认知，即使只用 rank-1 的 LoRA 也能获得有效结果。主要局限是假阳性率高：对没有特定行为的模型，适配器容易编造训练分布中见过的行为。代码、模型和数据集已在 GitHub 和 Hugging Face 开源。 （来源：BlockBeats）