Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。
前回の記事「Ryzen7 8700Gを限界まで高速化しよう」では、TheRock版ROCmを自力でビルドしていきました。
今回は、それらを使ってIrodori-TTSを動かしていきます。
比べていくのは前回の記事で「自力でビルドしたpytorch」と、「TheRockのプリビルド版pytorch」です。
uv run --no-sync python infer.py \
--hf-checkpoint Aratako/Irodori-TTS-600M-v3-VoiceDesign \
--text "どうしてもっと早く教えてくれなかったの?私、ずっと待ってたのに。" \
--no-ref \
--caption "深く傷つき、今にも泣き出しそうな様子。声が震えており、悲痛なトーンで弱々しく話す。" \
--output-wav outputs/test_voice.wavこちらのコマンドで生成していきます。
それではやっていきましょう。
まずはプリビルド版
uv pip install --index-url https://rocm.nightlies.amd.com/whl-multi-arch/ "torch[device-gfx1103]" "torchvision[device-gfx1103]" torchaudio上のコマンドでインストールするやつですね。結果は、

自力ビルドのpytorch

通常ならこれで終わりなのですが、実行中妙なログを発見。それが、

AOTritonについては前回の記事で書きましたが、これって意識せずに使えるものだと思っていたのですがIrodori-TTSでは環境変数で指定しないとダメなんですかね?
ちなみにこのログはIrodori-TTS側のものではないらしく、pytorch側からのログだそうです。
ということで、早速使ってみました。
プリビルド版 + 環境変数

export TORCH_ROCM_AOTRITON_ENABLE_EXPERIMENTAL=1
23秒→19秒。
自力ビルド + 環境変数

20秒→17秒。
最後に
確かに速くなりました。
ただ、苦労に見合うかと言うと使う人によるかな。
Radeon 780Mを使っている人で、Irodori-TTSの生成速度をもうちょっと上げたいって人は試してみると良いかもしれませんね。
Nvidiaのグラフィックスカードを持っている人は、そちらを使ってください。
YouTube見てると、「2秒くらいで生成できる」みたいな動画を見ました。
速いですね・・・。
今回は以上です。

Amazon | AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676 | AMD | CPU 通販
AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676がCPUストアでいつでもお買い得。当日お急ぎ便対象商品は、当日お届け可能です。アマゾン配...

AMD Ryzen 5 8600G CPU Wraith Stealth Cooler付属 AM5ソケット
【Amazon.co.jp限定】 AMD CPU Ryzen 5 8600G, with Wraith Stealth Cooler AM5 4.3GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100001237...

Amazon | 【Amazon.co.jp限定】 AMD CPU Ryzen 5 8500G, with Wraith Stealth Cooler AM5 3.5GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100000931BOX/EW-1Y | AMD | CPU 通販
【Amazon.co.jp限定】 AMD CPU Ryzen 5 8500G, with Wraith Stealth Cooler AM5 3.5GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100000931...

コメント