车辆重识别（去噪扩散概率模型）论文阅读2024/9/27
[2] Denoising Diffusion Probabilistic Models
作者：Jonathan Ho Ajay Jain Pieter Abbeel
单位：加州大学伯克利分校
摘要：
我们提出了高质量的图像合成结果使用扩散概率模型，一类潜变量模型从非平衡热力学的考虑启发。我们的最佳结果是通过根据扩散概率模型和与Langevin动力学匹配的去噪分数之间的一种新的联系设计的加权变分界进行训练得到的，并且我们的模型自然地承认一个渐进的有损解压方案，可以解释为自回归解码的一个推广。在无条件的CIFAR10数据集上，我们获得了9.46的Inception分数和3.17的最先进的FID分数。在256x256LSUN上，我们得到了与ProgressiveGAN类似的样本质量。
主要贡献：
我们表明，扩散模型实际上能够生成高质量的样本，有时比其他类型的生成模型的发布结果更好。此外，我们证明了扩散模型的某种参数化揭示了与训练过程中多个噪声水平上的去噪分数匹配以及采样过程中退火朗之万动力学的等价性。我们使用这个参数化得到了我们最好的样本质量结果。
创新点：
为了指导我们的选择，我们在扩散模型和去噪得分匹配之间建立了一个新的显式联系，从而得到了一个简化的、加权的扩散模型变分界限目标。我们忽略了前向过程方差β t可以通过重新参数化学习的事实，而是将它们固定为常量。因此，在我们的实现中，近似后验q没有可学习的参数，因此LT在训练过程中是一个常数，可以忽略。
简介：
近年来，各种深度生成模型在各种数据模态中都展示了高质量的样本。生成式对抗网络( GAN )、自回归模型、流和变分自编码器( VAEs )合成了引人注目的图像和音频样本，并且在基于能量的建模和得分匹配方面取得了显著进展，产生了与GAN 相当的图像。本文介绍了扩散概率模型的研究进展。
框图：
[2] Ho, J., Jain, A., & Abbeel, P. (2020). Denoising diffusion probabilistic models. In Proceedings of the 34th Conference on Neural Information Processing Systems (NeurIPS 2020).