> ## Content Index
> Fetch the complete content index at: https://binnn.top/llms.txt
> Use this file to discover other available public pages before exploring further.

# PMD：用倾斜均值约束学习图像条件后验
- URL: https://binnn.top/posterior-matching-distillation/
- Published: 2026-11-20T23:43:03.000Z
- Updated: 2026-11-21T00:45:05.000Z
- Description: PMD通过指数重加权与移动教师输入监督随机学生模型。完整后验恢复依赖严格理论条件，实际训练还需辅助损失补足视觉质量。
- Author: Sunbin 编辑部
- Tags: AI 最新论文进展, 视觉与多模态, #sunbin-auto, #sunbin-newsroom

论文阅读笔记 · arxiv.org · 原文日期 2026-11-19

## 固定带噪输入，学习多种可能

同一个带噪输入可能对应多张合理图像，单个去噪估计难以描述这些可能性。论文提出后验匹配蒸馏（PMD），让随机学生模型学习教师的条件分布：固定带噪状态，对多次学生输出做指数重加权，再将其均值与教师提供的目标均值对齐。

## 移动教师输入取得监督目标

指数重加权会改变候选图像的相对权重。在高斯加噪条件下，作者利用倾斜后验与移动带噪输入的等价关系，每个目标均值只需一次冻结教师求值，无需从教师后验反复采样。该恒等式要求教师精确预测后验均值，不能脱离这一假设理解。

## 完整后验恢复需要哪些条件

完整后验恢复是带前提的理论结论：教师须精确；在固定噪声水平下，学生的指数矩须在零点的某个开邻域内有限；倾斜均值须对该邻域内所有倾斜向量、几乎所有带噪输入均匹配。有限方向、有限样本的训练不能直接视为已满足这些条件，也不能据此断言实际模型恢复了完整后验。

## 后验覆盖还需配合对抗损失

作者明确说明，单独的PMD损失并非完整训练目标：它负责覆盖教师的条件后验，还需辅助损失获得有竞争力的视觉质量。论文采用对抗项，在文本描述条件下比较学生样本与真实图像，以补足真实感和提示对齐。因此，最终模型的表现不能全部归于后验匹配。

## 主观评估按同提示图组评分

作者报告的主观评估有50人参与，使用24条文本提示，每条以不同随机种子生成4张图，每种方法共96张。参与者观看同一提示下的四图组合，按1至5分评价多样性、真实感和提示对齐。这一设计考察同提示下的样本变化，结果范围限于所选提示及生成样本。

原始标题：Posterior Matching Distillation  
[来源：arxiv.org](https://arxiv.org/abs/2611.26629?ref=binnn.top)