生成模型

共 8 篇文章

从变分推断到扩散模型与流匹配:生成式建模的数学原理、经典模型推导与训练目标分析。

生成模型

生成模型 (3.3):Flow Matching

本文介绍了流匹配 (flow matching),一种无需模拟的流模型训练方法。文章详细证明了流匹配是如何通过条件化技巧来构建出从初始分布到目标分布到概率路径,以及如何构建真实的速度场来监督模型的训练。最后,文章通过引入Bregman散度,从最大似然的角度来阐述了流匹配的训练过程。

生成模型

生成模型 (3.2):Flow Model

本文深入阐述了流模型 (flow model)。文章首先铺垫了一些概率论和微分方程的预备知识,包括随机向量、微分同胚等。然后,文章详细介绍了流模型的数学表达,证明了流和速度场的等价性,利用连续性方程来建立流和概率路径的关系,并通过证明瞬时换元公式来证明了流的可逆性。最后,文章还介绍了流模型的训练方法,如何通过最大似然估计来训练流模型。

生成模型

生成模型 (3.1):Flow-based Method

本文是介绍Flow Matching数学原理的第一篇。由于Flow Matching的数学原理较为复杂,文本的主要目的是为读者从宏观上理解基于流的方法的基本原理,把握其核心思想,并对速度场、流、ODE等概念有个基本的了解。

生成模型

生成模型 (2.1):Energy-based Model

本文介绍了基于能量的模型 (Energy-based Models, EBMs),它是一种利用分数进行生成式建模的简单方法。我们首先从变分的角度出发,介绍了EBMs的基本原理,包括能量函数的定义、概率分布的归一化项、以及如何通过最大化对数似然来训练EBMs。最后,我们还介绍了基于朗之万动力学 (Langevin dynamics) 进行采样的方法,以及如何利用分数场将样本推向数据分布中高概率的方向。

生成模型

生成模型 (1.3):Denoising Diffusion Probabilistic Model

本文深入介绍了DDPM的数学原理,包括DDPM的前向过程和反向过程、条件化技巧、ELBO的推导以及优化、DDPM的采样过程。通过本文,读者能够全面了解DDPM的工作原理,以及如何应用DDPM来解决生成模型的问题。

生成模型

生成模型 (1.2):Variational Auto-Encoder

本文深入介绍了VAE的数学原理,包括如何通过ELBO来训练VAE,以及VAE的生成过程。最后,我们还介绍了层级VAEs (HVAEs),它是一种能够捕捉不同尺度数据特征的VAE。

生成模型

生成模型 (1.1):变分推断

本文从变分的视角介绍了生成模型,深入探讨了变分推断的数学原理和应用。变分推断是一种用于估计未知分布的方法,通过最小化与真实分布的差异来找到最优的近似分布。文中详细推导了变分推断的求解过程,包括变分下界 (ELBO) 的引入和最大化。最后,文章展示了两种求解变分推断的方法。

生成模型

生成模型 (0):Overview of Deep Generative Modeling

本文探讨了生成式建模的基本概念和数学建模介绍了一些经典的模型,包括VAE、DDPM、Flow Matching和GAN。通过这些内容,读者可以对生成式建模有一个全面的了解,为后续的学习打下基础。