Redwood Research · Blog· Sebastian Prasanna·· 29 天前精选AI 评分63
Redwood Research 发布论文实测蒸馏揭露未对齐与安全转移能力
[Paper] Distillation for Incrimination and Distillation for Capabilities
AI 导读
Redwood Research 发布论文，实证检验蒸馏不可信模型的两种安全用法。
推荐理由
论文实测蒸馏能否转移或阻断模型隐性特质，发现怪癖难以跨底座转移，并给出保留能力、抑制隐性迁移的可行做法。
来源：Redwood Research · Blog · blog.redwoodresearch.org