実は、Strix HaloはUMA 128GBでWindowsプラットフォームなのに、DGX Sparkより30万円くらい安く価格コムの地チャートには出てこない。しかし、これもいずれ値上がりしそうな予感。Strix HaloのMini PCあるいはNASはいいかもしれない。
去年の時点だと、DGX Sparkに比べるとお話にならなかったが、今は結構いい線いっている、価格差がそのまま性能差くらいまでには近づいている。
閑話休題
ROCm 10を入れてみた。ROCm 10のPytorchのイメージもリリースされているので、もうあげても問題ないかと思われる。
既存のROCM 7.14 アンインストール
まず現在の7.14を公式通り削除したが、メタパッケージしか消えなかったので、以下が必要
sudo apt autoremove amdrocm7.14-gfx1151
sudo apt autoremove amdrocm-core-sdk7.14-gfx1151
sudo apt remove \
amdrocm-opencl \
amdrocm-opencl7.14 \
amdrocm-runtime7.14 \
amdrocm-llvm7.14 \
amdrocm-base7.14 \
amdrocm-sysdeps7.14
amdrocm-base7.14
amdrocm-runtime7.14
amdrocm-llvm7.14
amdrocm-dnn7.14-gfx1151
amdrocm-blas7.14-gfx1151
…
などが削除されるはず。
次にAMDの7.14リポジトリを削除。
sudo rm /etc/apt/sources.list.d/rocm.list
続いて公式通りに実行して、残骸の/opt/rocm/core-7.14を消す。
sudo rm -rf /var/cache/apt/*
sudo apt clean all
sudo apt update
sudo rm -rf /opt/rocm/core-7.14
そして念のため確認。
dpkg -l | grep ‘amdrocm.*7\.14’
何も出なければ綺麗に削除された。
ROCm 10のインストール
新しいstable repoを追加
# Download and install GPG key
sudo mkdir –parents –mode=0755 /etc/apt/keyrings
# ROCm release signing key
wget https://stable.repo.amd.com/rocm/gpg/packages.gpg -O – | \
gpg –dearmor | sudo tee /etc/apt/keyrings/amdrocm.gpg > /dev/null
sudo tee /etc/apt/sources.list.d/amdrocm-stable.sources << EOF
X-Repo-Id: amdrocm-stable
Types: deb
URIs: https://stable.repo.amd.com/rocm/core/packages/ubuntu2604/
Suites: stable
Components: main
Architectures: amd64
Signed-By: /etc/apt/keyrings/amdrocm.gpg
Enabled: yes
EOF
sudo apt update
apt-cache policy amdrocm10.0-gfx1151
で、
Candidate: 10.0.0-4
https://stable.repo.amd.com/rocm/core/packages/ubuntu2604
が出ることを確認して、以下を実行
sudo apt install amdrocm10.0-gfx1151
以下、動作テスト
root@NucBox-EVO-X2:~# ls -la /opt/rocm
total 12
drwxr-xr-x 3 root root 4096 Aug 28 01:22 .
drwxr-xr-x 7 root root 4096 Jul 19 14:56 ..
lrwxrwxrwx 1 root root 29 Aug 21 09:45 amdgcn -> /etc/alternatives/rocm-amdgcn
lrwxrwxrwx 1 root root 26 Aug 28 01:22 bin -> /etc/alternatives/rocm-bin
lrwxrwxrwx 1 root root 22 Aug 28 01:22 core -> /etc/alternatives/core
lrwxrwxrwx 1 root root 25 Aug 28 01:22 core-10 -> /etc/alternatives/core-10
drwxr-xr-x 9 root root 4096 Aug 28 01:22 core-10.0
lrwxrwxrwx 1 root root 30 Aug 28 01:22 include -> /etc/alternatives/rocm-include
lrwxrwxrwx 1 root root 26 Aug 28 01:22 lib -> /etc/alternatives/rocm-lib
lrwxrwxrwx 1 root root 30 Aug 28 01:22 libexec -> /etc/alternatives/rocm-libexec
lrwxrwxrwx 1 root root 27 Aug 21 09:45 llvm -> /etc/alternatives/rocm-llvm
lrwxrwxrwx 1 root root 28 Aug 28 01:22 share -> /etc/alternatives/rocm-share
root@NucBox-EVO-X2:~# rocminfo | grep -E ‘Runtime Version|Name:.*gfx|Marketing Name|Compute Unit’
Runtime Version: 1.21
Marketing Name: AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
Compute Unit: 32
Name: gfx1151
Marketing Name: AMD Radeon 8060S Graphics
Compute Unit: 40
Name: amdgcn-amd-amdhsa–gfx1151
Name: amdgcn-amd-amdhsa–gfx11-generic
Marketing Name: NPU Strix Halo
Compute Unit: 0
root@NucBox-EVO-X2:~# rocm-smi
========================================= ROCm System Management Interface =========================================
=================================================== Concise Info ===================================================
Device Node IDs Temp Power Partitions SCLK MCLK Fan Perf PwrCap VRAM% GPU%
(DID, GUID) (Edge) (Socket) (Mem, Compute, ID)
====================================================================================================================
0 1 0x1586, 21435 37.0°C 20.003W N/A, N/A, 0 N/A 1000Mhz 0% auto N/A 8% 0%
====================================================================================================================
=============================================== End of ROCm SMI Log ================================================
root@NucBox-EVO-X2:~# amd-smi
+——————————————————————————+
| AMD-SMI 27.0.0+6b0e43f3 |
| OS kernel Version: 7.0.0-30-generic |
| ROCm Version: 10.0.0 |
| VBIOS Version: 00107962 |
| Platform: Linux Baremetal |
|————————————-+—————————————-|
| BDF GPU-Name | Mem-Uti Temp UEC Power-Usage |
| GPU HIP-ID OAM-ID Partition-Mode | GFX-Uti Fan Mem-Usage |
|=====================================+========================================|
| 0000:c6:00.0 …deon 8060S Graphics | N/A 38 °C 0 24/N/A W |
| 0 0 N/A N/A | 0 % N/A 41/86016 MB |
+————————————-+—————————————-+
+——————————————————————————+
| Processes: |
| GPU PID Process Name GTT_MEM VRAM_MEM MEM_USAGE CU % SDMA |
|==============================================================================|
| No running processes found |
+——————————————————————————+
ROCm CLIのインストール
いろいろなフレームワークを入れられるらしい。
curl -fsSL https://raw.githubusercontent.com/ROCm/rocm-cli/main/install.sh | sh -s — nightly
rocm version
rocm examine
rocm engines list
rocm model –verbose
rocm dash
うーん、夜中にこんなの発見しなきゃよかった。ComfyUIのビルドも筒がなく終了。