Ryzen7 8700Gを限界まで高速化しよう（TheRockでROCｍをビルド）

#!/bin/bash

uv venv --python /usr/bin/python3
source .venv/bin/activate

uv pip install --index-url https://rocm.nightlies.amd.com/whl-multi-arch/ "torch[device-gfx1103]" "torchvision[device-gfx1103]" torchaudio

#!/bin/bash

curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

# ----------------------------------------
# 1) Proceed with standard installation (default - just press enter)
# 2) Customize installation
# 3) Cancel installation

# 1)を選択する

# -----------------------------------------

# パス（環境変数）を現在のターミナルに反映させる
source "$HOME/.cargo/env"

# ちゃんとインストールされているか確認、バージョンが表示されればOK
cargo --version

#!/bin/bash

cd ~
mkdir -p install
cd install

# 自分が試した中で必要と思われるライブラリ等をインストール
sudo apt update
sudo apt install -y gfortran git ninja-build cmake g++ pkg-config xxd patchelf automake libtool python3-venv python3-dev libegl1-mesa-dev texinfo bison flex
sudo apt install -y libsqlite3-dev libdrm-dev

# CMakeLists.txtで定義されているため、「clang-format」をインストール
sudo apt install -y clang-format

# OpenMP関連および、ROCmのビルドで要求されやすい必須ライブラリを追加
sudo apt install -y libomp-dev libgomp1 libnuma-dev libelf-dev

# TheRockをクローン
git clone https://github.com/ROCm/TheRock.git
cd TheRock

# 仮想環境を構築
uv venv --python /usr/bin/python3
source .venv/bin/activate

# ダウンロードが長すぎるので、「--depth 1」で直近のモノだけダウンロード
time git submodule update --init --recursive --depth 1

uv pip install -r requirements.txt

# ターゲットを gfx1103 のみに指定（ビルドに１０時間くらいかかってしまうので、開発者向けの項目もオミットしています）
cmake -B build -GNinja . \
    -DTHEROCK_AMDGPU_TARGETS="gfx1103" \
    -DTHEROCK_DIST_AMDGPU_FAMILIES="gfx1103" \
    -DTHEROCK_ENABLE_RCCL=OFF \
    -DTHEROCK_ENABLE_ROCSHMEM=OFF \
    -DTHEROCK_ENABLE_OPENMPI=OFF \
    -DTHEROCK_ENABLE_CORE_RUNTIME_TESTS=OFF \
    -DTHEROCK_ENABLE_CORE_HIPTESTS=OFF \
    -DTHEROCK_ENABLE_HIPDNN_INTEGRATION_TESTS=OFF \
    -DTHEROCK_ENABLE_HIPDNN_SAMPLES=OFF \
    -DTHEROCK_ENABLE_ROCR_DEBUG_AGENT_TESTS=OFF \
    -DTHEROCK_ENABLE_ROCPROFILER_SYSTEMS_EXAMPLES=OFF \
    -DTHEROCK_ENABLE_ROCGDB=OFF \
    -DTHEROCK_ENABLE_ROCPROFV3=OFF \
    -DTHEROCK_ENABLE_ROCPROFILER_COMPUTE=OFF \
    -DTHEROCK_ENABLE_ROCPROFSYS=OFF \
    -DTHEROCK_ENABLE_AQLPROFILE=OFF \
    -DTHEROCK_ENABLE_RDC=OFF \
    -DTHEROCK_ENABLE_AMD_DBGAPI=OFF \
    -DTHEROCK_ENABLE_ROCR_DEBUG_AGENT=OFF \ | tee config.log

# ビルド
time cmake --build build -j$(nproc) 2>&1 | tee build_error.log

# エラーログの最後の1000行
tail -n 1000 build_error.log > build_error_last1000.log

#!/bin/bash

sudo apt update
sudo apt install -y build-essential git cmake ninja-build pkg-config liblzma-dev

# 作業用ディレクトリで実行
cd ~
mkdir -p install
cd install
git clone https://github.com/ROCm/aotriton.git
cd aotriton

git submodule update --init --recursive

# 仮想環境の作成と有効化
uv venv --python /usr/bin/python3
source .venv/bin/activate

# 依存パッケージのインストール
uv pip install cmake ninja
uv pip install -r requirements.txt -r requirements-dev.txt -r requirements-tuning.txt

# 作業部屋にダミーのPyTorchをインストール
uv pip install torch --index-url https://download.pytorch.org/whl/cpu

# ROCmのパス設定（TheRockのビルド成果物に統一）
export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm
export ROCM_LLVM_ROOT=$ROCM_PATH/llvm
export HIP_PATH=$ROCM_PATH
export HIPCXX=$ROCM_PATH/bin/hipcc
export CC=$ROCM_LLVM_ROOT/bin/clang
export CXX=$ROCM_LLVM_ROOT/bin/clang++
export PATH=$ROCM_PATH/bin:$PATH
export LD_LIBRARY_PATH=$ROCM_PATH/lib:$LD_LIBRARY_PATH

# CMakeの構成（正規のAMDGPU_TARGETSとしてgfx1103を指定）
cmake -B build -G Ninja \
    -DCMAKE_INSTALL_PREFIX=$PWD/install_dir \
    -DCMAKE_BUILD_TYPE=Release \
    -DAOTRITON_GPU_BUILD_TIMEOUT=0 \
    -DCMAKE_PREFIX_PATH=$ROCM_PATH \
    -DCMAKE_CXX_COMPILER=$CXX \
    -DCMAKE_C_COMPILER=$CC \
    -DCMAKE_HIP_COMPILER=$HIPCXX \
    -DAOTRITON_TARGET_ARCH="gfx1103"

# ビルドの実行
cmake --build build -j 8 2>&1 | tee aotriton_build.log

# インストール
cmake --install build

#!/bin/bash

cd $HOME/install/TheRock
source .venv/bin/activate

# 1. PyTorchのソースコードを取得し、TheRock互換バージョンに切り替え
python external-builds/pytorch/pytorch_torch_repo.py checkout
cd external-builds/pytorch/pytorch

# ダミーで登録 (システム全体に影響を与えないように --local を使用)
git config --local user.name "test"
git config --local user.email "test@example.com"

# 2. サブモジュールの完全同期（※タイムアウト対策で --depth 1 を追加）
git submodule update --init --recursive --depth 1

# 3. 必要なPythonパッケージのインストール
uv pip install -r requirements.txt
uv pip install cmake ninja typing_extensions mkl mkl-include setuptools wheel

# 4. パス設定
export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm
export PATH=$ROCM_PATH/bin:$ROCM_PATH/llvm/bin:$PATH
export PKG_CONFIG_PATH=$ROCM_PATH/lib/pkgconfig:$ROCM_PATH/share/pkgconfig:$ROCM_PATH/lib/rocm_sysdeps/lib/pkgconfig:$ROCM_PATH/lib/rocm_sysdeps/share/pkgconfig:$PKG_CONFIG_PATH

# 5. コンパイラ設定（TheRock環境のclangへ変更）
export CC=$ROCM_PATH/llvm/bin/clang
export CXX=$ROCM_PATH/llvm/bin/clang++

# 6. CMakeの引数設定
export CMAKE_ARGS="-DROCM_PATH=$ROCM_PATH -DCMAKE_HIP_COMPILER=$ROCM_PATH/bin/hipcc"

# 7. PyTorchビルド設定
export PYTORCH_ROCM_ARCH="gfx1103"
export USE_ROCM=1
export USE_CUDA=0
export USE_XPU=0
export USE_KINETO=0
export BUILD_TEST=0
export USE_RCCL=0
export USE_NCCL=0
export USE_MPI=0
export USE_MIOPEN=1
export USE_OPENMP=1

# 8700Gに合わせてスレッド数を指定。メモリが足りない場合は「8」とか減らしてください
export CMAKE_BUILD_PARALLEL_LEVEL=16 
export MAX_JOBS=16 

# AOTritonの場所を指定
export AOTRITON_INSTALLED_PREFIX=$HOME/install/aotriton/install_dir

# 8. ビルド
python setup.py bdist_wheel 2>&1 | tee build_pytorch.log

# 9. pytorchのハッシュを取得
# pytorch-triton-rocmとバージョンを合わせる場合、以下のコマンドでハッシュを取得しておく
cat .ci/docker/ci_commit_pins/triton.txt

# pytorch-triton-rocmとバージョンを合わせる場合、以下のコマンドでハッシュを取得しておく
cat .ci/docker/ci_commit_pins/triton.txt

sudo apt install ffmpeg

#!/bin/bash

cd ~/install/TheRock
source .venv/bin/activate
cd ../

git clone https://github.com/pytorch/audio.git torchaudio-source
cd torchaudio-source

uv pip install soundfile

# ビルドしたtorchをインストール
uv pip install $HOME/install/TheRock/external-builds/pytorch/pytorch/dist/torch*.whl

# パスを通す
export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm
export LD_LIBRARY_PATH=$ROCM_PATH/llvm/lib:$ROCM_PATH/lib/rocm_sysdeps/lib:$ROCM_PATH/lib:$LD_LIBRARY_PATH
export PATH=$ROCM_PATH/bin:$ROCM_PATH/llvm/bin:$PATH

# コンパイラをTheRockのものに変更
export CC=$ROCM_PATH/llvm/bin/clang
export CXX=$ROCM_PATH/llvm/bin/clang++

# 環境変数設定
export USE_ROCM=1
export PYTORCH_ROCM_ARCH="gfx1103"
export MAX_JOBS=16

# ビルド開始
python setup.py bdist_wheel

#!/bin/bash

cd ~/install/TheRock
source .venv/bin/activate
cd ../

git clone https://github.com/pytorch/vision.git torchvision-source
cd torchvision-source

# ビルドしたtorchをインストール(torchaudioの時にインストールしているので本当は不要)
uv pip install $HOME/install/TheRock/external-builds/pytorch/pytorch/dist/torch*.whl

# パスを通す
export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm
export LD_LIBRARY_PATH=$ROCM_PATH/llvm/lib:$ROCM_PATH/lib/rocm_sysdeps/lib:$ROCM_PATH/lib:$LD_LIBRARY_PATH
export PATH=$ROCM_PATH/bin:$ROCM_PATH/llvm/bin:$PATH

# コンパイラをTheRockのものに変更
export CC=$ROCM_PATH/llvm/bin/clang
export CXX=$ROCM_PATH/llvm/bin/clang++

# 環境変数を設定
export USE_ROCM=1
export PYTORCH_ROCM_ARCH="gfx1103"
export MAX_JOBS=16

# ROCm（HIP）のC++拡張機能をビルドするフラグがCUDAと共通化されているため、以下を実行
export FORCE_CUDA=1

# ビルド
python setup.py bdist_wheel

uv venv --python /usr/bin/python3
source .venv/bin/activate

# pytorchフォルダの中の「whlファイル」をすべてインストール
uv pip install pytorch/*.whl

# ROCmのパスを「.venv/bin/activate」の最後の行に書き込む
export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm
export LD_LIBRARY_PATH=$ROCM_PATH/lib:$ROCM_PATH/lib/rocm_sysdeps/lib:$ROCM_PATH/lib/llvm/lib:$LD_LIBRARY_PATH

# pytorch-triton-rocmをインストールしたら、以下の環境変数を設定
export TRITON_HIP_LLD_PATH=$HOME/install/TheRock/build/dist/rocm/lib/llvm/bin/ld.lld

# 仮想環境をアクティベート
source .venv/bin/activate

# ROCmのパスを「.venv/bin/activate」の最後の行に書き込む
echo 'export ROCM_PATH=$HOME/install/TheRock/build/dist/rocm' >> ".venv/bin/activate"
echo 'export LD_LIBRARY_PATH=$ROCM_PATH/lib:$ROCM_PATH/lib/rocm_sysdeps/lib:$ROCM_PATH/lib/llvm/lib:$LD_LIBRARY_PATH' >> ".venv/bin/activate"

# pytorch-triton-rocmをインストールしたら、以下の環境変数を設定
echo 'export TRITON_HIP_LLD_PATH=$HOME/install/TheRock/build/dist/rocm/lib/llvm/bin/ld.lld' >> ".venv/bin/activate"