なんかパッとしなくて物足りない。
なんか色が薄くくすんでいる気がする。
他の人のような鮮やかなイラストを生成したい。
これらの悩みを解決する方法の1つが「VAE(Variational Auto Encorder)」です。
高画質化のプロンプトを入力して改善を図っている方も多いと思いますが、もしかしたらVAEの設定を正しく行うことで簡単に素敵な生成ができるかもしれません。
VAEとは？
Variational Auto Encorder（変分オートエンコーダ）の頭文字です。潜在空間に確率分布を用いて予測精度が・・・と非常に難しいため、ざっくりとご説明すると、イラスト生成のクオリティアップのお手伝いをしてくれるという理解で大丈夫です。
そのお手伝いがVAE毎に少しずつ違うので、使用するVAEによって色味や線画に違いが出るものになります。
実際にVAEを設定して生成すると下のイラストのような違いが出てきます。
イラストのテーマやテイストによっては、VAE無しの方が良いかもしれませんが、VAE有りの方が鮮やかなイラストとなっていますね。
VAEのダウンロードと設定
VAEもModelと同じようにHugging FaceやCivitaiなどからダウンロードすることができます。
今回は、「mse840000_klf8anime_klf8anime2.vae.pt」を用いて、そのダウンロードと設定方法をご紹介していきます。
①リンク内の「Files」をクリックする。
②「mse840000_klf8anime_klf8anime2.vae.pt」右側のダウンロードマークをクリックしてダウンロードする。
➂ダウンロードしたVAEを格納する。
格納場所は「stable-diffusion-webui」内の「models」→「VAE」です。
④更新マークをクリック。
上部タブ「Setting」→ 左タブ「StableDiffusion」→ SD VAE欄の右側にある丸い矢印ボタンをクリックして更新する。
⑤プルダウンから「mse840000_klf8anime_klf8anime2.vae.pt」を選択する。
【tips】おすすめ設定 【VAEとClip Skip】
使い込んでいくと目的のイラストに合わせて、モデルとVAE、Clip Skipをよく変更します。
デフォルトでは、Settingタブから変更するようになってますが、少々面倒です。
ここでは簡単にこれらを変更できるように生成画面に表示させましょう。
①「Setting」タブの「User Interface」
②Quicksettings list欄に下記のように入力する。
sd_model_checkpoint,sd_vae,CLIP_stop_at_last_layers
・sd_model_checkpoint：モデル選択用
・sd_vae：VAE選択用
・CLIP_stop_at_last_layers：Clip Skip選択用
➂「Apply settings」→「Reloding UI」の順でクリックする。
どのVAEを使えばいいの？
VAEは使用しているモデルによって、使い分けることが理想です。モデルのダウンロードページに推奨VAEが記載されていたり、モデル専用のVAEが用意されているパターンもあります。
とはいえ、汎用的なVAEを見つけてそれを使い続けても問題ありません。推奨とは異なるVAEでも自分が好きな効果があるVAEを選ぶことが1番です。
いくつかのVAEをご紹介しますので、ご参考にしてみてください。
kl-f8-anime2.ckpt
mse840000_klf8anime_klf8anime2.vae.pt
ThisIsVAE.pt
ClearVAE_V2.2.safetensors
vae-ft-mse-840000-ema-pruned.safetensors
終わりに
以上で、VAEの導入方法とその効果をご紹介しました。VAEを導入すると簡単にStableDiffusionで生成したイラストのクオリティがアップしますので、ぜひ使いこなしたいですね。
