AIをやろうと、手元の機材でやっていたが、うーん、GPUを持っていない身からすると辛い。うちの家訓で「グラボは5000円まで」というのがあった。そうゲームしないから他にお金かけろと。それをずっと守ってきた。DaaSをやっていた時は買おうかなぁとも思っていたんだが、見事スルー。そして、インフラやってたら余計いらない。手元に機材があるからできるだろうと思ったら、GPU以外でもDDR4ですら辛いという話もある。もう機材が何もないのと同じ。そもそも、機材も売却、処分に動いているから新調しようと思って知り合いに相談したら。。。その知り合いが記事を書いていた。
SNS経由で記事に書いてはいないもことも教えてもらった。迷わず？EVO-X2 128GBを購入。
実は迷って逃して、値段が一時的に40万円近くになったが、指咥えてみてたらクーポンで割引になり、また30万円切ったのでポチった。
最初、MINISFORUM MS-S1 MAXを買おうと思ったのだが、10Gbps NICが付いていてEVO-X2より高い。
その10Gbps NICとかがアダになったのか、内部空きM2スロットは
MINISFORUM MS-S1 MAX PCIe 4.0 x1
EVO-X2 PCIe 4.0 x4
らしい。
M.2にOCulink Cardを刺した場合に全然違う。
さらに、EVO-X2はロゴのあたりにM.2があるのでそこからOCulinkが出せるらしい。ケースに派手に穴を開けなくても取り出せる。
さっそくアンボックス
もはやNUCじゃないサイズ感
最新のBIOSが1.06らしいが、自分のは1.09だった。よってBIOSアップデートは不要だった。つまらん。
VRAMを96GBに設定できる。
さらにWake On LANが有効にできて、EdgeRouterからリモートパワーオンができた。これで使う時だけ電源オンをするという運用も可能に。
初期設定時には、ネットワークに繋ぐなと。繋がなかったのですぐセットアップ完了
インストールされていたのは、Windows 11 Pro 24H2（ちゃんとOEM版だった）。ネットワークに繋がないでセットアップしたのでインターネット系のアプリは入っておらず、スタートアップがスッキリ。本来登録されててもいい、Windows Terminalですらスタートアップに登録されていない。
また、セットアップ時は、ローカルアカウントで設定されるので、MSアカウントがいらなかった。
Windows Updateしたあと、Windows 11 25H2にアップデートした。
念の為インストール済みのドライバーの抽出
$ExportDirectory= “C:\DriverExport”
if(-not(Test-Path $ExportDirectory)){ md $ExportDirectory }
dism /online /export-driver /destination:$ExportDirectory
いざというときのために、ドライバー類も落としておく。
AMD Software: Adrenalin Editionも落としておく。最新は、25.9.2っぽいが。
さて、LMStudioでgpt-oss-120bを試そうと思ったら、メモリ60GBが全てメインメモリに。VRAM96GBにしてたら、残り32GBなので足りない。一旦VRAM64GBにしたが、それでも足りない。なので動かない。。。なんか想像と違うんだが。どうやらこれ
最新のLMStudioに含まれているVulkan 1.52.0がGPUを使わず、メモリにロードされてしまうという不具合があるらしい。1.50.2なら問題はないと。ただ、1.50.2を手にいれるためには古いLMStudioを入れて使わなければならない。以下のIssueに貼られているLMStudioのリンクから落として入れたら、Vulkan 1.50.2がロードできるようになった。
まず、以下のLMStudioをインストール
その後、最新のLMStudioへアップデートをする。そうすると最新のLMStudioでVulkan 1.50.2が利用できる。
改めてGPT-OSS-120bをロードしたらメインメモリにフルロードはなくなった。長めの質問をしてみた。某政治家の語録から人物像を描いてもらった。
結果GPUを使ってくれるようになった。レスポンスもまずまず。あーよかった。
ちなみに、以下の記事があるが。。。実は、25.9.2が最新なので落とす必要はない。
https://www.amd.com/en/blogs/2025/amd-ryzen-ai-max-upgraded-run-up-to-128-billion-parameter-llms-lm-studio.html
https://www.amd.com/en/resources/support-articles/release-notes/RN-RAD-WIN-25-10-RC-24-RYZEN-AI-MAX-395-VULKAN-LLAMA.html
さて、第8世代、第10世代のNUCをバンバン処分。この世代のCPU、第11世代が持っているAVX-512をもっていない。世界的に大容量のDDR4 SODIMMが不足しているらしく需要がありそうだが全然はけない。（NUCは全部DDR4 SODIMM 32GBx2)。おまけに買取価格も上がっていない。なんでだぁ。やはりもうこれからはDDR5なのか？
これをLinuxにするかどうか悩む。どうやらこのRyzen AI Max+ 395ってLinux対応がまだイマイチらしい。少し様子見をすることに。