TheRock版ROCmをpipでインストールしよう(ROCmのビルドなんてやってられるか！)

sudo usermod -a -G render $USER
sudo usermod -a -G video $USER

# llama.cppをインストールするフォルダを作成
mkdir -p $HOME/install/llama.cpp_build
cd $HOME/install/llama.cpp_build

#準備とllama.cppのソースをダウンロード
sudo apt install -y git cmake g++ libcurlpp-dev ninja-build
git clone https://github.com/ggml-org/llama.cpp.git

# uv を使用して仮想環境を作成し、有効化する(Ubuntu24.04標準のpthonを使う)
uv venv --python /usr/bin/python3
source .venv/bin/activate

# TheRockのツールを使い、仮想環境内にROCmのプリビルドパッケージをインストール
uv pip install --index-url https://rocm.nightlies.amd.com/whl-multi-arch/ "rocm[libraries,devel,device-gfx1103]"

# 変数を設定(llama.cpp_buildフォルダをカレントディレクトリにして実行)
DIRECTORY=$PWD
DIR_ROCm=$DIRECTORY/.venv/lib/python3.12/site-packages

# ROCmのパスをuv環境 (.venv) 内に設定
echo "export LD_LIBRARY_PATH=$DIR_ROCm/_rocm_sdk_core/lib:$DIR_ROCm/_rocm_sdk_devel/lib:\$LD_LIBRARY_PATH" >> ".venv/bin/activate"

# カレントディレクトリをllama.cppに移動。ビルドの設定をします。
cd llama.cpp
cmake -B build-rocm -GNinja \
    -DGGML_HIP=ON \
    -DAMDGPU_TARGETS="gfx1103" \
    -DCMAKE_C_COMPILER="$DIR_ROCm/_rocm_sdk_core/lib/llvm/bin/clang" \
    -DCMAKE_CXX_COMPILER="$DIR_ROCm/_rocm_sdk_core/lib/llvm/bin/clang++" \
    -DCMAKE_PREFIX_PATH="$DIR_ROCm/_rocm_sdk_devel" \
    -DCMAKE_BUILD_TYPE=Release
 
# ビルド開始
time cmake --build build-rocm -j$(nproc)

# ROCｍのテスト
./llama.cpp/build-rocm/bin/llama-bench -m /media/test/semi_4TB/linux/7_自作スクリプト/github/自分用/99_LLMモデル/quantize/gemma-4-26B-A4B-it-qat-GGUF/gemma-4-26B-A4B-it-qat-UD-Q4_K_XL.gguf

# vulkanのテスト
./llama.cpp/build-vulkan/bin/llama-bench -m /media/test/semi_4TB/linux/7_自作スクリプト/github/自分用/99_LLMモデル/quantize/gemma-4-26B-A4B-it-qat-GGUF/gemma-4-26B-A4B-it-qat-UD-Q4_K_XL.gguf

# 私の環境のパスなので、マネする人は自分の環境に合わせて書き直してください。
LOCATE="/media/test/semi_4TB/linux/7_自作スクリプト/github/自分用/99_LLMモデル/quantize/gemma-4-26B-A4B-it-qat-GGUF"

MODEL="gemma-4-26B-A4B-it-qat-UD-Q4_K_XL.gguf"

MTP="mtp-gemma-4-26B-A4B-it.gguf"
MMPROJ="mmproj-F16.gguf"

./llama.cpp/build-rocm/bin/llama-server -m $LOCATE/$MODEL --port 8080 --host 127.0.0.1 --jinja --reasoning off --spec-draft-model $LOCATE/$MTP --spec-type draft-mtp --spec-draft-n-max 1

./llama.cpp/build-vulkan/bin/llama-server -m $LOCATE/$MODEL --port 8080 --host 127.0.0.1 --jinja --reasoning off --spec-draft-model $LOCATE/$MTP --spec-type draft-mtp --spec-draft-n-max 1

"偏りのないコインを表が出るまで投げ続け、表が出たときに、賞金をもらえるゲームがあるとする。もらえる賞金は、1回目に表が出たら1円、1回目は裏が出て2回目に表が出たら倍の2円、2回目まで裏が出ていて3回目に初めて表が出たらそのまた倍の4円、3回目まで 裏が出ていて4回目に初めて表が出たらそのまた倍の8円、というふうに倍々で増える賞金がもらえるというゲームである。ここで、このゲームには参加費（＝賭け金）が必要であるとしたら、参加費の金額が何円までなら払っても損ではないと言えるだろうか。"この問題を解いてください。