スポンサーリンク
Ubuntu

Ryzen7 8700GでQwen3.6 MTPを動かしてみる

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。以前の記事で「Qwen3.6-27B-UD-Q4_K_XL.gguf」のMTP版をCPUで動かしてみました。今回はRyzen7 8700Gで動かしてみます。MTP無...
Ubuntu

Ryzen7 8700Gでgemma-4-26B-A4Bをテスト

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。以前、Ryzen9 7900のCPUでgemma-4-26B-A4B(Q4_K_M)を動かしてみたことがあったのですが、まあまあ動くという感じで14tokens/s...
Ubuntu

Irodori-TTSをRyzen7 8700Gで動かす(Ubuntu編)

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。以前、こちらの記事でRyzen9 7900の内蔵GPUを使ってIrodori-TTSを動かす記事を書きました。この時は動くには動いたのですが、生成された音声がノイズ...
Ubuntu

llama.cppでMTPが使えるようになった

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。対応しているのは、今のところQwen3.6のみ。Gemma-4はまだみたいです。2026/5/16にllama.cppのフォーク版、「am17an/llama.cp...
Uncategorized

極限までコンテキストを伸ばす!KVキャッシュ計算機

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。Intel Arc A750はVRAM8GBなので、基本LLMで使うことはないのです。それでもなんとか使おうと思った時、どのくらいまでコンテキスト長を設定したら良い...
Ubuntu

LLM推論速度シミュレータ

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。前回の記事で少し触れましたが、最近はCPUでLLMの推論をすることが多いです。「Qwen3.6-35B-A3B」や「gemma-4-26B-A4B」ですね。「VRA...
Ubuntu

llama.cppをGUI化(Ubuntu編)

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。最近、AIをエージェントとして使役することに試行錯誤しています。そんな中、出来上がったのがこのツール。言ってみればただの副産物です。llama.cppといえば、黒い...
Ubuntu

Ubuntu26.04LTSとIntel Arc

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。2026/4/23にUbuntu26.04LTSがリリースされたとのこと。記事を書いている時点で、まだArc用ドライバはこちらの方法ではインストールできない状態です...
Ubuntu

OpenVINO GenAIで画像生成(Ubuntu編)

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。OpenVINOなので、今回もIntel GPUのみの対応です。自分の環境は「Intel Arc A750」です。前回の記事「OpenVINO GenAIでローカル...
Ubuntu

OpenVINO GenAIでローカルLLMチャット(Ubuntu編)

Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。前回の記事「話題のgemma-4を試してみた」で、llama.cppをvulkanで動かしたら「Radeon RX 470」に「Intel Arc A750」が負け...
スポンサーリンク