Uncategorized 極限までコンテキストを伸ばす！KVキャッシュ計算機
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。Intel Arc A750はVRAM8GBなので、基本LLMで使うことはないのです。それでもなんとか使おうと思った時、どのくらいまでコンテキスト長を設定したら良い...
Uncategorized 
Ubuntu LLM推論速度シミュレータ
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。前回の記事で少し触れましたが、最近はCPUでLLMの推論をすることが多いです。「Qwen3.6-35B-A3B」や「gemma-4-26B-A4B」ですね。自分の使...
Ubuntu llama.cppをGUI化（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。最近、AIをエージェントとして使役することに試行錯誤しています。そんな中、出来上がったのがこのツール。言ってみればただの副産物です。llama.cppといえば、黒い...
Ubuntu Ubuntu26.04LTSとIntel Arc
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。2026/4/23にUbuntu26.04LTSがリリースされたとのこと。記事を書いている時点で、まだArc用ドライバはこちらの方法ではインストールできない状態です...
Ubuntu OpenVINO GenAIで画像生成（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。OpenVINOなので、今回もIntel GPUのみの対応です。自分の環境は「Intel Arc A750」です。前回の記事「OpenVINO GenAIでローカル...
Ubuntu OpenVINO GenAIでローカルLLMチャット（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。前回の記事「話題のgemma-4を試してみた」で、llama.cppをvulkanで動かしたら「Radeon RX 470」に「Intel Arc A750」が負け...
Ubuntu 話題のgemma-4を試してみた（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。今はQwen3.6が話題ですが、自分はまだ試していないので。今回はgemma-4についてです。とはいえ、こちらの記事でも触れたとおり、現在は「Intel Arc A...
Ubuntu The Rockでpytorchをビルド（Ubuntu編）
The RockでROCmをビルド（Ubuntu編）の記事でThe Rockを使ってROCmをビルドしていきました。今回はこのROCmを使ってpytorchのビルドをやっていきます。ただ、Ryzen9 7900無印の内蔵GPU（Raphae...
Ubuntu The RockでROCmをビルド（Ubuntu編）
Irodori-TTSをROCmで動かす（Ubuntu編）の記事で、Ryzen9 7900無印の内蔵GPUで音声生成をやってみました。この内臓GPUはRDNA2(Raphael)なので、記事作成時の公式プリビルド版ROCm7.2には正式対応...
グラフィックスカード Intel Arc A750のモニタリング（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。いったい何を言っているんだと思うかもしれませんが、諸事上により「Pro B60」を処分して、今更ながらA750を購入しました。引っ越しの為、いろいろと始末しなくては...