Ryzen7 8700GでQwen3.6 MTPを動かしてみる

Ubuntu
スポンサーリンク

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。

以前の記事で「Qwen3.6-27B-UD-Q4_K_XL.gguf」のMTP版をCPUで動かしてみました。
今回はRyzen7 8700Gで動かしてみます。

MTP無し

MTP有り

先読みトークン数を「4」に変更

とはいえ、Densuモデルを8700Gで動かしても、あんまり実用的ではないということがわかりました。

ついでに「Qwen3.6-35B-A3B-UD-Q4_K_M.gguf」もテスト

以前の記事で、CPU(Ryzen9 7900)だと17tokens/secまでしか速度が上がらなかった、みたいに書いてましたが、8700Gでどれだけ速くなるのか興味があったので試してみました。

合計の平均が30tokens/secといったところ。
グラフィックスカード無しでこの速度なら、コスパは良いんじゃないでしょうか?
MoEモデルに限りますが・・・。
個人的には8600Gも気になるところです。

今回は以上です。


Amazon | AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676 | AMD | CPU 通販
AMD CPU Ryzen 7 8700G BOX With Wraith Stealth Cooler 100-100001236SBX CP1676がCPUストアでいつでもお買い得。当日お急ぎ便対象商品は、当日お届け可能です。アマゾン配...

今回使った8700Gです。
が、付属クーラーがstealthの方ですね。
spireの方はちょっと値段が高めです。

AMD Ryzen 5 8600G CPU Wraith Stealth Cooler付属 AM5ソケット
【Amazon.co.jp限定】 AMD CPU Ryzen 5 8600G, with Wraith Stealth Cooler AM5 4.3GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100001237...

こちらは8600G。
試してませんが、速度次第ではコスパ的にアリかと。

Amazon | 【Amazon.co.jp限定】 AMD CPU Ryzen 5 8500G, with Wraith Stealth Cooler AM5 3.5GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100000931BOX/EW-1Y | AMD | CPU 通販
【Amazon.co.jp限定】 AMD CPU Ryzen 5 8500G, with Wraith Stealth Cooler AM5 3.5GHz 6コア / 12スレッド 22MB 65W 正規代理店品 100-100000931...

8500G。
性能に関しては、未知数です。
Geminiは否定的でしたが・・・。

コメント

タイトルとURLをコピーしました