Jetson Orin Nano Super、EVO-X2、DGX Spark、NUC11でLlama 3.2 3BのOllama性能を比較してみた
ちょっと前まで、仮想環境とクラウド環境の仕事をしていたが、バッサリ仮想環境の仕事は止めた。というか縁がなくなった。多分次にお声がかかるのは、10年後くらいかと思っている。その時現役で働いているかどうかは不明だが。別にVM … 続きを読む
ちょっと前まで、仮想環境とクラウド環境の仕事をしていたが、バッサリ仮想環境の仕事は止めた。というか縁がなくなった。多分次にお声がかかるのは、10年後くらいかと思っている。その時現役で働いているかどうかは不明だが。別にVM … 続きを読む
実は、手元にラズパイが嫌ってほどある。Raspberry Pi 2 1.2は、中身がほぼRaspberry Pi 3。それらはノイズ源になるため無線が不要なオーディオ用。それ以外のRaspberry Piは、VMware … 続きを読む
実は、隣にある建物がもう少しすると無くなる。というか、解体することになった。この解体業務、いわばばーさんから引き継いだ作業なのだが、この建物には監視カメラなどが付いていて、防犯対策としてもかなり役に立っていた。ところが建 … 続きを読む
実は、Strix HaloはUMA 128GBでWindowsプラットフォームなのに、DGX Sparkより30万円くらい安く価格コムの地チャートには出てこない。しかし、これもいずれ値上がりしそうな予感。Strix Ha … 続きを読む
価格.comを見て驚いた。 NVIDIAのDGX Sparkが、デスクトップPCの人気売れ筋ランキングで1位になっている。価格は約100万円。互換機(中身は全く同一でNVME容量と筐体デザインしか違いがない)まで含め … 続きを読む
近頃Ollamaのアップデートが止まらない。最新版が出たとおもったら、Pre-release版がすぐにあがり、数時間するとRelease版が出る。Docker ImageやBrewが追従できていない。理由は、Qwen 3 … 続きを読む
ComfyUIが0.30.1になったので再度ビルドしてみた。 DGX Spark BF16 1枚の生成が8秒を切っている。 NVFP4 5秒切るようになった。だんだん高速になっていく。 Strix Halo (EVO … 続きを読む
今年も半分が終わり、PCハードウェアの問題がひと段落着くかと思ったら、さらに悪くなっているらしい。とにかくもの値段が高い、必要なものが手に入らない。仮想環境向けの汎用サーバやパソコンはほんと大変らしい。AI向けのほうが潤 … 続きを読む
趣味で作っていた k3s-setup.sh を久しぶりに更新した。 ソースはこちら。 https://gist.github.com/masezou/65c29fcff3a761335506b908f97228a3 … 続きを読む
6月30日でGMKtec EVO-X2のセール(55万円→51万円)が終了。 ……と思ったら、今度は「セール価格」58万円になっている。これがセール? しかも定価表示がない。 https://jp.gmktec.com/ … 続きを読む