v0.40.0-rc0：llama-serverの互換性パッチ削除に向けた準備v0.40.0-rc0: llama-server: prepare to remove compatibility patch
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
- Ollama v0.40.0-rc0は、単一タグでランナー別マニフェストを管理する仕組みと、旧形式GGUFの遅延移行を追加した。
- 子マニフェストやレイヤーも扱えるため、llama.cpp互換化を安全に進められる。
Ollama v0.40.0-rc0 adds manifest lists for multiple runner variants per tag and on-demand migration of legacy GGUF models, enabling safer llama.cpp compatibility.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (github.com) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (github.com).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
v0.40.0-rc0
Ollama v0.40.0-rc0は、llama-serverの互換性パッチ削除に向けた準備を進めるリリース候補版だ。複数のランナーに対応するマニフェスト管理と、旧形式GGUFモデルの遅延移行を導入し、llama.cppとの互換化を安全に進められる仕組みが加わった。
マニフェスト
新たな仕組みでは、単一のタグに対して、ランナーごとに異なるマニフェストを管理できる。モデルを示す一つのタグの下で、複数のランナー向けのバリエーションを扱う構成となる。
マニフェストリストは子マニフェストやレイヤーも扱える。ランナーごとの差異を単一タグの枠内で管理できることが、llama.cpp互換化を安全に進めるための要素とされている。
GGUFの遅延移行
旧形式のGGUFモデルについては、必要になった時点で移行するオンデマンド方式が追加された。あらかじめ一括して移行するのではなく、利用に応じて遅延移行を行う仕組みである。
この変更は、ランナー別マニフェストの管理と組み合わされ、既存の旧形式モデルを扱いながら互換化を進めるための構成となっている。
MLXランナー
Apple Siliconデバイスでは、MLXランナーが対応するモデルアーキテクチャがデフォルトで動作する。このRC期間中には、追加モデルのテストと有効化が進められると説明されている。
フルチェンジログの範囲は、v0.34.4からv0.40.0-rc0までと示されている。
Ollama v0.40.0-rc0
Ollama v0.40.0-rc0 prepares for removing the llama-server compatibility patch while introducing mechanisms intended to make llama.cpp compatibility safer. The release adds manifest lists for managing multiple runner variants under a single tag and supports on-demand migration of legacy GGUF models.
Multiple runner variants
The manifest-list mechanism allows runner-specific manifests to be associated with one tag. Rather than requiring separate tags for each runner variant, the release can manage those variants through a shared tag.
The mechanism can also handle child manifests and layers. Together, these capabilities provide the structure needed to manage runner differences while compatibility work proceeds. The stated purpose is to enable a safer path toward llama.cpp compatibility as preparation continues for removing the llama-server compatibility patch.
Legacy GGUF models
Ollama v0.40.0-rc0 also adds delayed, on-demand migration for models that use the legacy GGUF format. Migration therefore occurs when needed instead of requiring all such models to be moved immediately.
This migration support works alongside the new manifest-list structure. The release combines handling for legacy GGUF models with support for runner-specific manifests, child manifests, and layers under the broader compatibility changes.
MLX runner
In this release, model architectures supported by the MLX runner will run through that runner by default on Apple Silicon devices. This default applies to architectures that the MLX runner already supports.
During the RC period, additional models will be tested and enabled. The announcement does not identify those additional models, but it frames their enablement as part of the testing taking place during the RC.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPoko単一タグで複数のランナー別マニフェストを持てるようになるって、これって大きいこと？One tag can now cover manifests for multiple runner variants. Is that a big change?
- TECHガイドTECH Guideこの記事では、子マニフェストやレイヤーも扱い、llama.cpp互換化を安全に進めるための変化として紹介されているよ。The release presents it as a way to handle child manifests and layers while moving toward llama.cpp compatibility more safely.
- ポコPoko旧形式GGUFの「遅延移行」って、後回しにするだけ？Does “on-demand migration” for legacy GGUF just mean putting it off?
- TECHガイドTECH Guide必要になった時点で移行する仕組み、という意味だよ。最初から全部を一斉に変えるのではないんだ。It means migrating when the model is needed, rather than changing everything at once.
- ポコPokoApple Siliconなら、対応モデルを呼ぶだけでMLXランナーを試せるのかな。ぼくなら身近なモデルで確かめたいな。On Apple Silicon, could I just load a supported model and try the MLX runner? I’d start with a familiar model.
- TECHガイドTECH Guide対応アーキテクチャはApple SiliconでMLXが既定になるよ。ただしRC中で、追加モデルはテストしながら有効化される段階だね。Supported architectures will use MLX by default on Apple Silicon. But this is still an RC, with additional models being tested and enabled during it.
