PMD:用倾斜均值约束学习图像条件后验

PMD通过指数重加权与移动教师输入监督随机学生模型。完整后验恢复依赖严格理论条件,实际训练还需辅助损失补足视觉质量。

Share
PMD:用倾斜均值约束学习图像条件后验
原文配图 · 图片出处

论文阅读笔记 · arxiv.org · 原文日期 2026-11-19

固定带噪输入,学习多种可能

同一个带噪输入可能对应多张合理图像,单个去噪估计难以描述这些可能性。论文提出后验匹配蒸馏(PMD),让随机学生模型学习教师的条件分布:固定带噪状态,对多次学生输出做指数重加权,再将其均值与教师提供的目标均值对齐。

移动教师输入取得监督目标

指数重加权会改变候选图像的相对权重。在高斯加噪条件下,作者利用倾斜后验与移动带噪输入的等价关系,每个目标均值只需一次冻结教师求值,无需从教师后验反复采样。该恒等式要求教师精确预测后验均值,不能脱离这一假设理解。

完整后验恢复需要哪些条件

完整后验恢复是带前提的理论结论:教师须精确;在固定噪声水平下,学生的指数矩须在零点的某个开邻域内有限;倾斜均值须对该邻域内所有倾斜向量、几乎所有带噪输入均匹配。有限方向、有限样本的训练不能直接视为已满足这些条件,也不能据此断言实际模型恢复了完整后验。

后验覆盖还需配合对抗损失

作者明确说明,单独的PMD损失并非完整训练目标:它负责覆盖教师的条件后验,还需辅助损失获得有竞争力的视觉质量。论文采用对抗项,在文本描述条件下比较学生样本与真实图像,以补足真实感和提示对齐。因此,最终模型的表现不能全部归于后验匹配。

主观评估按同提示图组评分

作者报告的主观评估有50人参与,使用24条文本提示,每条以不同随机种子生成4张图,每种方法共96张。参与者观看同一提示下的四图组合,按1至5分评价多样性、真实感和提示对齐。这一设计考察同提示下的样本变化,结果范围限于所选提示及生成样本。

原始标题:Posterior Matching Distillation
来源:arxiv.org