IPEXとtorch.xpu(nightly)でのメモリ使用量の違い

Ubuntu
スポンサーリンク

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。

恥ずかしながら、いままでComfyUIを動作させるとき
https://pytorch-extension.intel.com/installation?platform=gpu
上記リンクからIPEXで動作させる方法しか知りませんでした。が、この度

# 安定版
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/xpu

# nightly
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/xpu

でpytorchをインストールすればComfyUIが動作するということを初めて知りました。
今回は、

pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/xpu

のnightly版の方がバージョン2.9.0と新しかったのでこちらを使っています。
IPEXと何が違うのかなぁと思ってとりあえず試してみたところ

メインメモリの使用量が全然違っていました。
今回は「ComfyUI」+「wan2.2_i2v_high(low)_noise_14B_fp8_scaled.safetensors(14.3GB x2)」+「–novramオプション」+「いつものおねえさん」+「5秒(640×640)の動画生成」でテスト。

GGUF版は相変わらず動作不安定(kサンプラー)なのでsafetensorsを使っています。

キャッシュ使用量が気になりますが、これだけ使用量が少ないなら64GBのシステムメモリでも動作するかもしれません。
ちなみに同じ条件で生成にかかった時間は

あまり違いはありませんでした。

今回は以上です。

自分が使っているARC B570です。

SPARKLE Intel Arc B570 グラフィックカードOC版 デュアル AXL ファン「GUARDIAN」シリーズ [ B570 GUARDIAN OC 10GB ]
SPARKLE Intel® Arc™ B570 GUARDIAN OC は、10GB GDDR6 メモリと TORN Cooling 2.0 を組み合わせ、デュアル AXL ファン、2.2 スロット設計、フルメタル バックプレートを備えて...

最近はChallengerも安いときがあるようです。

Amazon | ASRock Intel Arc B570 Challenger PCIe 4.0対応 2.6GHz 10GB OC GDDR6搭載 国内正規代理店品 B570 CL 10GO | ASRock | グラフィックボード 通販
ASRock Intel Arc B570 Challenger PCIe 4.0対応 2.6GHz 10GB OC GDDR6搭載 国内正規代理店品 B570 CL 10GOがグラフィックボードストアでいつでもお買い得。当日お急ぎ便対象商...

コメント

タイトルとURLをコピーしました