Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。
以前の記事の最後に「–novram」でテストしてみますと書いたと思うのですが、少し動かしてみたので記事にします。
動画生成はComfyUIを使っています。導入手順はこちらです。
使用したモデルファイル等は、こちらの記事を参考にしてください。
ggufのモデルは以下からダウンロードできます。
bullerwins/Wan2.2-I2V-A14B-GGUF at main
We???re on a journey to advance and democratize artificial intelligence through open source and open science.
huggingface.co
今回使ったワークフローです。
Q4_K_M.ggufを使って「–novram」の動作検証
前回の記事の生成条件そのままに、起動オプションだけ変更します。
python ./main.py --auto-launch --disable-xformers --use-pytorch-cross-attention --novramです。
「–novram」でなぜタイル切り替えが発生しなかったのか理由はよくわかりませんが、その分だけ処理が速くなっているようです。
VAEデコード中のVRAM使用量は？
「–novram無し」バージョンの時はタイルに自動的に切り替わっていることから、VRAMは確実に枯渇しているはずですが、「–novram」バージョンはタイルに切り替わっていないことから、16GBで足りているということになります。
気になったので再調査してみました。
なんとかタイルに切り替わらずに済んでいたということでしょうか。
ということは同じ9060XTでも8GB版はたぶんタイルに切り替わりますよね。
最後に
「–novram」オプションでVAE処理が速くなるのも意外でしたが、推論速度が変化しなかったというのも驚きでした。
まだROCmやpytorchの進化で推論速度も変わってくるかもしれませんが、とりあえず今のところは「–novram」オプションは有効みたい。
次の記事では、推論時にVRAMに余裕があったことから動画の生成フレーム数をもっと増やして試してみたいと思います。
今回は以上です。
ASUS AMD Dual Radeon RX 9060 XT 16GB GDDR6ビデオカード DUAL-RX9060XT-16G 国内正規代理店品
グラフィックスコア : AMD Radeon RX 9060 XT / バスインターフェース : PCI Express5.0 / OpenGL : OpenGL 4.6コアクロック : OC mode (GPU Tweak III): u...
www.amazon.co.jp
SAPPHIRE PULSE Radeon RX 9060 XT GAMING OC 16GB グラフィックスボード 11350-03-20G VD9219
AMD RDNA 4アーキテクチャを採用し、16GB GDDR6メモリを搭載した高性能グラフィックボードです。高解像度ゲーミングや映像処理に優れた性能を発揮します。●カラー：ブラック●製品サイズ：L240×W124×H46.1mm●グラフィ...
www.amazon.co.jp
SAPPHIRE PURE Radeon RX 9060 XT GAMING OC 16GB グラフィックスボード 11350-02-20G VD9221
AMD RDNA 4アーキテクチャ採用、16GB GDDR6メモリを搭載した純白デザインのグラフィックボードです。高性能と美しさを兼ね備え、映像美と安定性の両立も実現しています。●カラー：ホワイト●製品サイズ：L240×W124×H46.1...
www.amazon.co.jp
Amazon.co.jp: ASUS AMD Radeon RX 9060 XT ビデオカード 16GB GDDR6 OCエディション PRIME-RX9060XT-O16G 国内正規代理店品 : パソコン・周辺機器
Amazon.co.jp: ASUS AMD Radeon RX 9060 XT ビデオカード 16GB GDDR6 OCエディション PRIME-RX9060XT-O16G 国内正規代理店品 : パソコン・周辺機器
amzn.to
コメント