Open WebUIが微妙だと思ったら読む記事
いまだにOpen WebUIをDockerで立てるという記事が散見されるが、単純に使うなら、WindowsかMacのDesktop版でネイティブアプリ的なインストーラーで入れた方がDockerも不要で圧倒的に楽。さらに、 … 続きを読む
HomeLab
AI NASの正体は実はホームラボサーバだった
EVO-X2などのStrix HaloのMini PCは、ホームサーバ向けAI環境として、1台で済むのでおすすめ。スペック的には64GB RAMクラスのMini PCを2台分まとめたような構成でありながら、設置面積や電源 … 続きを読む
Agent AI時代のHome Lab ～ 評価軸そのものが変わった ～
以前は、仮想化関連やストレージの仕事をしていたので、仮想マシンホストが大量にあったが。。。 台数が多いと電気代が高い、暑い、うるさい、暑い、の三重苦 近頃の原油高ー＞電気代が高い 地球温暖化ー＞外気すら暑 … 続きを読む
Open WebUIのメモリ機能
Chat GPTに相談。。。して最近事件になったが、なぜChat GPTに相談するんだろうか？人間の心理として、回答が欲しい相談と、同意してくれればいいだけの相談の２つあるはずなのだが、AIに相談すると前者の回答しかこな … 続きを読む
AMD UMAマシンのモニタリング
EVO-X2 (Strix Halo)をLinuxにして、LLMとComfyUI画像生成専用にしてから、Open WebUIをかなり真剣に使うことが多くなった。EVO-X2は、テレビの裏に押しやられてしまい、イルミネーシ … 続きを読む
Open Terminalすごい。Gammaすごい
大学においたOpen WebUIに学生が使えそうな機能を追加していこうと思って、チャットで書いた内容をPPTにしたいなんていう要求があるだろうと思って、オンプレにホストできるNotebookLMみたいのはないかなと思った … 続きを読む
MacにOllamaをインストールしてOpen WebUI Desktopで利用する/ LLMアプライアンスにする
昨日、大学に Mac 上で動作する Open WebUI と Ollama を納品した。すると、その直後に Open WebUI と Ollama の両方にアップデートが出てしまった。こういうことは、なぜか納品した直後に … 続きを読む
MCPを26個登録して分かった、Open WebUI Desktopの本当の価値
最近、自宅のOpen WebUI環境にMCPを登録していたら、気が付けば26個になっていた。AWS、Azure、Google Cloud、GitHub、Notion、Tailscale、Docker、Kubernetes … 続きを読む
Agent AI時代のローカルLLM選び ― モデルサイズとContextサイズの実測
実は大学のゼミのフェローを20年以上続けているのだが、最近になって初めて知ったことがある。自分の登録区分は、事務系でも技術系でもなく、教育系だったということだ。 正直なところ、あまり実感はなかった。活動の多くはほぼボ … 続きを読む
Open WebUI + Ollama は「動くだけ」では意味がない ― 成功体験を作る初期設定
物事がヒットするのとは成功体験が得られるかどうかが重要かもしれない。CD-ROMドライブが普及したのは、男性の欲望を誰もが共感するコンテンツのタイトルがリリースされたからという都市伝説があるが。。。その時代は正しくパ … 続きを読む