ワッサースタイン GAN (WGAN-GP) のグラデーションペナルティ

これは、ヴァッサースタインGANの改良型トレーニングの実装です

WGANは、ディスクリミネーター・ネットワークにリップシッツ制約を適用するためにウェイトをクリッピングすることを提案している(評論家)。これに加えて、L2 ノルムクリッピング、ウェイト正規化、L1、L2 ウェイト減衰などの他のウェイト制約には問題があります

1。ディスクリミネーターの容量制限 2.グラデーションが爆発したり消えたりする (バッチ正規化なし)

論文「Wasserstein GANのトレーニングの改善」は、勾配ペナルティであるリップシッツ制約を改善するより良い方法を提案しています。