v0.34.2-rc1：mlxrunnerのモデルを契約、チェックポイント、構築別に整理v0.34.2-rc1: mlxrunner: lay out model by contract, checkpoint and construction
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
- Ollama v0.34.2-rc1は、mlxrunnerのbase.goをmodel.goへ改名し、量子化情報の読み取りと解決をquant.goへ集約した。
- モデルの契約、チェックポイント、レイヤー構築の境界が明確になり、保守担当者が変更しやすくなる。
Ollama v0.34.2-rc1 renames mlxrunner's base.go to model.go and groups quantization metadata in quant.go, clarifying contract, checkpoint, and layer-building boundaries for maintainers.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (github.com) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (github.com).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
model.go
Ollama v0.34.2-rc1では、mlxrunnerのモデル関連ファイルが、契約、チェックポイント、レイヤー構築という役割に沿って整理された。処理内容を変えるのではなく、各ファイルが担う範囲を明確にし、保守担当者が変更しやすくするための再編となっている。
三つの役割
modelパッケージは、ランナーと各アーキテクチャ間の契約、開かれたチェックポイント、チェックポイントのテンソルからnnレイヤーを構築する処理という三つの役割を持つ。しかし従来のファイル構成では、どのファイルがどの役割を担うのかが名前から明確ではなかった。インターフェースとレジストリを収めていたbase.goは、内容に合わせてmodel.goへ改名された。
quant.go
root.goにはRootとOpenを残し、TensorQuantInfoとsafetensorsのヘッダースキャンをquant.goへ移した。これにより、チェックポイントに記録された量子化情報の読み取りと、量子化パラメータの解決が一つのファイルに集約された。従来はroot.goにヘッダースキャンがあり、quant.goには量子化パラメータの解決とnvfp4のグローバルスケール用ヘルパーが混在していた。
globalscale.go
nvfp4のグローバルスケール用ヘルパーは、関連するテストとともにglobalscale.goへ移された。また、呼び出し元が一つだけで処理を行わないRoot.Closeは削除された。これら以外にコード上の変更はなく、モデルの契約、チェックポイント、レイヤー構築の境界をファイル構成に反映した整理である。
Three jobs
Ollama v0.34.2-rc1 reorganizes mlxrunner’s model package to make its responsibilities clearer. The change matters for maintainers because it separates the boundaries between the runner contract, checkpoint handling, and layer construction without otherwise changing the code.
The package has three jobs: defining the contract between the runner and the architectures, representing the opened checkpoint, and building nn layers from checkpoint tensors. Previously, its files did not clearly indicate which responsibility belonged where.
base.go becomes model.go
The former base.go carried the folded package’s name across the interfaces and registry. It is renamed model.go to describe what the file contains more directly.
This naming change makes the model contract easier to distinguish from the package’s checkpoint and layer-building responsibilities. The interfaces and registry remain associated with that file under its new name.
Quantization in one file
Previously, root.go placed the safetensors header scan next to Root, while quant.go combined nvfp4 global-scale helpers with quantization parameter resolution. The new organization keeps Root and Open in root.go.
TensorQuantInfo and the safetensors header scan move into quant.go. As a result, everything the checkpoint states about quantization is now read and resolved in one file.
The nvfp4 global-scale helpers move out of quant.go and into globalscale.go. Their tests move with them, separating global-scale handling from the reading and resolution of checkpoint quantization information.
No code changes otherwise
Root.Close is removed. It was a no-op and had one caller.
Beyond the file renaming, movement of quantization-related code, separation of the global-scale helpers, and removal of Root.Close, there are no other code changes. The release is therefore focused on organizing mlxrunner’s model responsibilities so maintainers can more easily identify where contract, checkpoint, quantization, and layer-building concerns belong.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPoko1つのmodelパッケージが3つの役割を抱えてたんだね。分け目がはっきりするのって、大きいこと？One model package was handling three jobs. Is making those boundaries clearer a big deal?
- TECHガイドTECH Guide契約、チェックポイント、レイヤー構築の担当が見分けやすくなったよ。保守する人が変更箇所を追いやすくなる整理だね。The contract, checkpoint, and layer-building roles are now easier to tell apart. That should help maintainers find where to make changes.
- ポコPokoチェックポイントって、ここでは何を指すの？途中で止まる場所？What does “checkpoint” mean here? Is it a place where something pauses?
- TECHガイドTECH Guideここでは、保存されたモデルデータを開いたものだよ。そこにあるテンソルから、ニューラルネットのレイヤーを組み立てるんだ。Here, it means opened, saved model data. Its tensors are used to build the neural network layers.
- ポコPokoぼくが保守するなら、量子化まわりはquant.goを見ればよさそう。迷子になりにくいかもね。If I were maintaining it, I’d start with quant.go for quantization details. I might get lost less often.
- TECHガイドTECH Guide量子化情報の読み取りと解決はquant.goにまとまったよ。今回はファイル整理が中心で、それ以外のコード変更はないとされているよ。Quantization metadata reading and resolution now live in quant.go. This release candidate focuses on file organization, with no other code changes stated.
