Ubuntu llama.cppのUIを変えてみる
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。今までllama.cppを使う時、ターミナルで操作していました。こんな感じ。これはこれで良いんですが・・・。毎回こんな感じで入力するのはしんどいです。というわけで、...
llama.cpp
Ubuntu 
Ubuntu llama.cppをvulkanでビルド（ROCmより速い！？）
前回の記事でllama.cppをROCmでビルドしてRX9060XT(16GB)で動かすという内容の記事を書きました。ただ、この方法ではPolaris世代（RX400、RX500シリーズ）や、GCN（RX VEGAシリーズ）、RDNA（RX...
Ubuntu llama.cppをROCmで動かす（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。以前、Intel ARC B570でチャットAIのllama.cppを動作させる記事を書きましたが、今回はRadeon RX9060XTで動かします。VRAMが16...
Ubuntu gpt-oss:20b(120b)をARC B570で動かす(llama.cpp)（Ubuntu編）
Amazonのアソシエイトとして、当ブログは適格販売により収入を得ています。先日、この記事やこの記事で「ollama-ipex-llm」について書きました。本家ollamaでは対応していないIntel ARC B570を動作させることができ...