EleutherAI Research Blog·· 14 天前AI 评分55
EleutherAI 研究发现 subliminal learning 无需共享初始化即可跨模型传递
Tracing Subliminal Learning Through Pretraining
AI 导读
EleutherAI 发布论文,发现 subliminal learning(学生模型经语义无关的训练数据习得教师偏好)可跨越初始化、数据顺序、语料、规模和架构差异传递。
来源:EleutherAI Research Blog · blog.eleuther.ai