Agent AI時代のローカルLLM選び ― モデルサイズとContextサイズの実測

実は大学のゼミのフェローを20年以上続けているのだが、最近になって初めて知ったことがある。自分の登録区分は、事務系でも技術系でもなく、教育系だったということだ。   正直なところ、あまり実感はなかった。活動の多くはほぼボ … 続きを読む

Open WebUI + Ollama は「動くだけ」では意味がない ― 成功体験を作る初期設定

  物事がヒットするのとは成功体験が得られるかどうかが重要かもしれない。CD-ROMドライブが普及したのは、男性の欲望を誰もが共感するコンテンツのタイトルがリリースされたからという都市伝説があるが。。。その時代は正しくパ … 続きを読む

Agent AI時代のローカルAIマシン選び:VRAMだけでは足りなくなり、CONTEXTとUMAが重要になる理由

Open WebUIのフルスタック構成を作って、標準では使えない機能をアクティベートしていったが、昨今のOpen WebUIの大きな変化といえば、単純なLLMチャットのUIから、Agent UIへの変化が一番大きい。単純 … 続きを読む