Agent AI時代のローカルAIマシン選び:VRAMだけでは足りなくなり、CONTEXTとUMAが重要になる理由
Open WebUIのフルスタック構成を作って、標準では使えない機能をアクティベートしていったが、昨今のOpen WebUIの大きな変化といえば、単純なLLMチャットのUIから、Agent UIへの変化が一番大きい。単純 … 続きを読む
Open WebUIのフルスタック構成を作って、標準では使えない機能をアクティベートしていったが、昨今のOpen WebUIの大きな変化といえば、単純なLLMチャットのUIから、Agent UIへの変化が一番大きい。単純 … 続きを読む
過去に書いた、ブログの26.04版。2026年5月にインストールするならこっち。 ROCm 7.2.4が出たので更新。 また、この内容は、EVO-X2だけではなく、Strix Haloであれば適用できる。 Ubu … 続きを読む
前回は、Open WebUI Desktopのインストールまで行った。普通に入れるだけならインストーラーだけで動く。楽に使いたいなら、Open WebUIのllama.cppを使うのではなく、ollamaを使う方が楽かも … 続きを読む
大学でAIの授業をすることになって、デモ環境が必要だとなったんだが、今のChat GPTとかGeminiとかデモで使ってみると予想以上に賢い。ハルシネーションが起きにくい。それに最新情報をWebから自動で持ってくるので、 … 続きを読む
追記: playwrightやdoclingも足した。もう追加すべきコンテナはないと思う。ほとんど全ての機能が使えるようになる。正直いって、無料公開してもいいのだろうかと思うくらい巨大。 ちなみに、GPU版のイメージでは … 続きを読む
Ubuntu 26. 04 LTSがでて、まだ対応していないかと思ったら、早速Dockerは対応していた。実は、Dockerだけではなく、incusも対応していた。 Dockerのインストール # prerequis … 続きを読む
自宅のRoonは、渋谷のツタヤに10年かけて通ったおかげでDBが22GBで31万曲になってしまった。壊れたリッピング用ドライブは2台くらい。しかし、Intel NUC 10th Core i7 32GB でも、使っている … 続きを読む
NASのロードバランサー、NASで普通に使うだけなら便利だが、443がNAS自体が使ってしまうので不便。やはり、別途ロードバランサーを立てることにした。ただし。。。このご時世、電気代やメモリという問題がある。調べてみると … 続きを読む
ようやくRoonがDockerで動くようになる。正式版リリースは、4/20->4/27になった様子。よく考えたら、なんですぐしなかったんだろうかと思ったが。野良のイメージは前からあったが、これは本家のもの。たまにL … 続きを読む
QNAP TS-473a(出所がOEM版)を使っていてQuTS Hero 6 RCを入れている。多分メインは、QuTS Heroになっていくのだろうか。コンテナレジストリやOllamaのモデルファイル、オブジェクトストレ … 続きを読む