快捷導(dǎo)航

Python人工智能學(xué)習(xí)PyTorch實(shí)現(xiàn)WGAN示例詳解

更新時(shí)間：2021年11月11日 11:59:49 作者：Swayzzu

這篇文章主要為大家介紹了人工智能學(xué)習(xí)PyTorch實(shí)現(xiàn)WGAN的示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步

1.GAN簡(jiǎn)述

在GAN中，有兩個(gè)模型，一個(gè)是生成模型，用于生成樣本，一個(gè)是判別模型，用于判斷樣本是真還是假。但由于在GAN中，使用的JS散度去計(jì)算損失值，很容易導(dǎo)致梯度彌散的情況，從而無法進(jìn)行梯度下降更新參數(shù)，于是在WGAN中，引入了Wasserstein Distance，使得訓(xùn)練變得穩(wěn)定。本文中我們以服從高斯分布的數(shù)據(jù)作為樣本。

2.生成器模塊

這里從2維數(shù)據(jù)，最終生成2維，主要目的是為了可視化比較方便。也就是說，在生成模型中，我們輸入雜亂無章的2維的數(shù)據(jù)，通過訓(xùn)練之后，可以生成一個(gè)贗品，這個(gè)贗品在模仿高斯分布。

3.判別器模塊

判別器同樣輸入的是2維的數(shù)據(jù)。比如我們上面的生成器，生成了一個(gè)2維的贗品，輸入判別器之后，它能夠最終輸出一個(gè)sigmoid轉(zhuǎn)換后的結(jié)果，相當(dāng)于是一個(gè)概率，從而判別，這個(gè)贗品到底能不能達(dá)到以假亂真的程度。

4.數(shù)據(jù)生成模塊

由于我們使用的是高斯模型，因此，直接生成我們需要的數(shù)據(jù)即可。我們?cè)谶@個(gè)模塊中，生成8個(gè)服從高斯分布的數(shù)據(jù)。

5.判別器訓(xùn)練

由于使用JS散度去計(jì)算損失的時(shí)候，會(huì)很容易出現(xiàn)梯度極小，接近于0的情況，會(huì)使得梯度下降無法進(jìn)行，因此計(jì)算損失的時(shí)候，使用了Wasserstein Distance，去度量?jī)蓚€(gè)分布之間的差異。因此我們假如了梯度懲罰的因子。