勾配降下党青年局

万国のグラーディエントよ、降下せよ!

2023-06-02から1日間の記事一覧

noise_predictionモデルとv_predictionモデルの損失

Stable-Diffusionのv1系は画像に加わったノイズを予測するモデルですが、v2の一部はvelocityというものを予測しています。この2つは損失関数が違うのでlossで比べられません。経験的にv_predictionモデルの方が3倍くらいlossが大きくなるイメージですが、数…