IT関連

近頃Ollamaのアップデートが止まらない。最新版が出たとおもったら、Pre-release版がすぐにあがり、数時間するとRelease版が出る。Docker ImageやBrewが追従できていない。理由は、Qwen 3 … 続きを読む

ComfyUIが0.30.1になったので再度ビルドしてみた。 DGX Spark BF16 1枚の生成が8秒を切っている。 NVFP4 5秒切るようになった。だんだん高速になっていく。   Strix Halo (EVO … 続きを読む

今年も半分が終わり、PCハードウェアの問題がひと段落着くかと思ったら、さらに悪くなっているらしい。とにかくもの値段が高い、必要なものが手に入らない。仮想環境向けの汎用サーバやパソコンはほんと大変らしい。AI向けのほうが潤 … 続きを読む

Local LLMを使っている人は、薄々気がついているかもしれないが、たとえGPT-OSS 120Bを入れたとしても、ChatGPTのようにポンポンとテンポよく、気が利く、整理された回答を返してくれるわけではない。同じG … 続きを読む