世界通訊！GAN卷土重來：10億參數(shù)的GigaGAN效果堪比擴散模型
2023-06-18 14:52:16    程序員客棧


(相關(guān)資料圖)

點藍色字關(guān)注“機器學習算法工程師”

設(shè)為星標，干貨直達！

自從 DALL·E 2 之后，在圖像生成方面擴散模型替代GAN成了主流方向，比如開源的文生圖模型stable diffusion也是基于diffusion架構(gòu)的。近日， Adobe研究者在論文Scaling up GANs for Text-to-Image Synthesis提出了參數(shù)量為10億（1B）的GAN模型：GigaGAN，其在文生圖效果上接近擴散模型效果，而且推理速度更快，生成512x512大小圖像只需要0.13s，生成16M像素圖像只需要 3.66s。同時GigaGAN也支持latent空間的編輯功能，比如latent插值，風格混合，以及向量運算等。

GigaGAN改進了StyleGAN架構(gòu)，采用兩階段訓練策略：一個是64x64的圖像生成器和一個512x512的圖像超分2器，其圖像生成器架構(gòu)如下所示（這里也是采用CLIP text encoder來引入text condition）：GigaGAN在 LAION2B-en和 COYO-700M數(shù)據(jù)集上訓練，其在COCO數(shù)據(jù)集上的FID達到9.09，超過stable diffusion 1.5，推理速度比stable diffusion快20倍多（2.9s vs 0.13s）：GigaGAN除了文生圖能力，還可以實現(xiàn)可控的合成，比如風格混合，如下圖所示：更多效果圖和技術(shù)細節(jié)見論文https://arxiv.org/abs/2303.05511和網(wǎng)站https://mingukkang.github.io/GigaGAN/

關(guān)鍵詞：