Ollama 0.30.0

ぼろくても屋根、壁、風呂トイレ、台所があれば、死ぬまで困らないということで実家を相続でもらった。さらに、歴代の方が亡くなった部屋は入り口近くの1Fで広め。ヘルパーさん、訪看さにとって大助かりの間取りだった。言い直せば、終の住処だけではなく終のベッドまである状態。それに1Fだけで生活が全て賄える。2Fに居間やキッチンとなると、老後2Fへいくのが難しくなるので、2F建だけど、生活は1F、平屋状態が絶対いい。そんな実家には、不要なもの、未知なものもついてくる。やはり天袋の中身は謎。すごい高価なものもあるっぽいのだが、それはばぁさんが本家からもってきちゃったものなので、しれっと本家に返却。持っていても使い道がない。ただ、単純に高価なもの、出所が判明しているものならいいが、中には出所が判明していて、実はもっておきたくない過去というかいわくがあるものが混じっている。それらはそのままなんだが、なんかのタイミング(実は、明確なタイミングで)、ゴソゴソ音がしたりするのが気になる時がある。過去にいわくの真相を聞いた限りは、こっちは無害なのはわかっているので放置することにした。
 
閑話休題
 
とはいえ、やはり未知なものは気になるので、最新のOllamaのモデルは調べてみる。
 
Ollamaが0.30.0になった。
Change logを見ると、llama寄りになるということでモデルのフォーマットが変わるのかと思って調べてみた。
ollama/ollama:0.24.0-rocmとollama/ollama:0.30.0-rc20-rocmのイメージで調べてみたが、ollama pull する限りは、イメージフォーマットは変わらず。なので、イメージを上げるだけで検証はできる。
 
イメージだけアップデートして様子見。
 
ちなみに以下のモデルで落ち着いた。
nomic-embed-textは、v2にした。qwen3.6:35b-a3bとともにmoeモデルの効果がでるか。ベースは太字の3つだけ。小さいモデルは、NPU行き。
 
root@NucBox-EVO-X2:/opt/containers# docker exec ollama ollama ls
NAME ID SIZE MODIFIED
qwen3.6:35b-a3b-code-32k 933d147a931b 23 GB 4 days ago
qwen3.6:35b-a3b-main-32k e9713138cd3e 23 GB 4 days ago
qwen3.6:35b-a3b 07d35212591f 23 GB 4 days ago
qwen3.6:35b-a3b-agent-32k 74afa44aa119 23 GB 4 days ago
nomic-embed-text-v2-moe:latest ff9c2f10ef5e 957 MB 5 days ago
qwen2.5vl:7b-main-32k 0067ae542611 6.0 GB 6 days ago
gpt-oss:20b-main-32k 659428c97fce 13 GB 6 days ago
gpt-oss:20b 17052f91a42e 13 GB 6 days ago
qwen2.5vl:7b 5ced39dfa4ba 6.0 GB 6 days ago
 
モデルの消費量も変わらず。動き出すとEVO-X2のファンがシャーと音がする。
 
root@NucBox-EVO-X2:/opt/containers# docker exec ollama ollama ps
NAME ID SIZE PROCESSOR CONTEXT UNTIL
qwen3.6:35b-a3b-agent-32k 74afa44aa119 33 GB 100% GPU 32768 53 minutes from now
 
 
まぁ、天袋の中のいわくつきのものは、音だけならいいけど、たまにシミがでるんだよなぁ。いつの間にかに消えているが。偽物承知でトマトジュースでもお供えしておくかなぁ。
いろいろなAIに相談したが、満場一致で、その話とそのものを封印して、存在自体を忘れることと言われた。

コメントする