擴散模型本身是生成式模型

KL散度

VAE和difussion有點像

參數(shù)重整化

單層VAE

多層VAE

diffusion model

目標到噪聲分布 高斯分布 擴散過程 q

逆擴散 噪聲到目標 p

可視化圖

擴散過程 不斷往原始分布加噪聲

逆擴散過程 從高斯噪聲中恢復(fù)原始數(shù)據(jù)

后驗擴散條件概率

目標數(shù)據(jù)分布的似然函數(shù)

擴散概率模型的算法代碼

選擇數(shù)據(jù)集

確定超參數(shù)的值

確定擴散過程任意時刻的采樣值

演示原始數(shù)據(jù)分布加噪100步后的效果

編寫擬合逆擴散過程高斯分布的模型

編寫訓練的誤差函數(shù)

編寫逆擴散采樣函數(shù)(inference 過程）

開始訓練模型， 并打印Loss及中間的重構(gòu)效果

100步一采樣顯示

動畫演示擴散過程和逆擴散過程

加噪聲

生成

保存gif動圖