Super Micro E300-9DでGPT OSS
マシンの選別中。大メモリマシンでGPT OSSを動かしてみた。 Super Micro E300-9D Intel(R) Xeon(R) D-2123IT CPU @ 2.20GHz (8Core GPUなし) Pass… 続きを読む »
マシンの選別中。大メモリマシンでGPT OSSを動かしてみた。 Super Micro E300-9D Intel(R) Xeon(R) D-2123IT CPU @ 2.20GHz (8Core GPUなし) Pass… 続きを読む »
先日まで、四苦八苦して、EVO-X2でLM Studio経由でGPT-OSS 120bが動かなくて、なんか無駄な買い物をしたかもと正直思っていた。その後、実は1週間くらい放置していた。先日、Vulkan 1.50で動くの… 続きを読む »
AIをやろうと、手元の機材でやっていたが、うーん、GPUを持っていない身からすると辛い。うちの家訓で「グラボは5000円まで」というのがあった。そうゲームしないから他にお金かけろと。それをずっと守ってきた。DaaSをやっ… 続きを読む »
Intel NUCのGPUを使ってローカル LLMがあまりにも、期待を裏切る、やってもできない子だったので、純粋にIntel CPU(ESXを動かしていたようなクソサーバ)で、LLMを立ててみる。 環境 物理、仮想(… 続きを読む »
Intel GPUを使ってみた!の最終回。ほんと時間の無駄だった。常磐線の普通列車くらいはスピードでるかと思ったら、常磐線の各駅停車より酷いといいたい。大学時代、入学式が終わった後、「東京1」という、「東京1年生」みたい… 続きを読む »
2回目ではなく、もう最終回。理由は、この文章に長さにある。。。 これからはAIが必要だ、AIをやれ、と言われる機会が増えてくるが、単にChat GPTを検索エンジンとして使っていたり、議事録の要約に使っているケースが多く… 続きを読む »
GPT-5/gpt-ossで追記した。 昔、サンタバーバラーという片田舎、ハリウッドになる前の映画の街にある会社に勤めていたことがある。そこの製品は、クラウドダッシュボードを提供していて、異なる操作、APIのクラウドを1… 続きを読む »