Ollama v0.34.4-rc0をリリースv0.34.4-rc0: mlx: speed up Qwen 3.8 prompt processing (#18550)
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
- Ollama v0.34.4は、断続的な「model not found」エラーを修正し、思考モデルの構造化出力を一度の処理で適用できるようにした。
- MLXではGemma 4の画像解像度を動的に選び、Qwen 3.8のプロンプト処理も高速化するため、ローカル推論の信頼性と性能が向上する。
- Ollama v0.34.4 fixes model-not-found errors and adds one-pass structured output for thinking models.
- MLX users get dynamic Gemma 4 image sizing and faster Qwen 3.8 prompts.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (github.com) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (github.com).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
v0.34.4
Ollama v0.34.4がリリースされた。断続的に発生する「model not found」エラーへの修正に加え、思考モデルの構造化出力や、MLXにおける画像解像度の選択、プロンプト処理の高速化が盛り込まれている。ローカル推論の信頼性と性能を改善する更新と位置付けられる。
エラー修正
今回のバージョンでは、モデルの利用時に断続的に起きていた「model not found」エラーが修正された。常に発生するのではなく、断続的にモデルが見つからないと判定される問題への対応であり、モデルを扱う処理の信頼性向上につながる変更となっている。
構造化出力
思考モデルでは、構造化出力を一度の処理で適用できるようになった。思考モデルによる処理と構造化出力の適用を一回で行える点が変更の要点で、構造化された結果を必要とする処理がまとめられている。
MLXの改善
MLXでは、Gemma 4の画像解像度を動的に選択する変更が加えられた。また、Qwen 3.8のプロンプト処理も高速化されている。Qwen 3.8に関しては、長いスキャンにMLXのgated-delta kernelを使用し、dense MLPのglobal scalesをSwiGLUへ組み込むことで高速化する。画像解像度の動的な選択とプロンプト処理の改善により、MLXを使ったローカル推論の性能向上が図られている。
Ollama v0.34.4
Ollama v0.34.4 focuses on reliability and performance for local inference. The release fixes intermittent “model not found” errors, adds one-pass structured output for thinking models, and introduces MLX improvements affecting Gemma 4 and Qwen 3.8.
model not found
The release addresses intermittent errors in which a model could not be found. Fixing this behavior is the principal reliability change identified for v0.34.4.
The issue was intermittent rather than described as a constant failure. No additional conditions or specific trigger for the error are stated, but the fix is intended to make local inference more reliable.
structured output
Thinking models can now apply structured output in one processing pass. This change combines thinking-model use with structured output without requiring more than one pass to apply it.
The release does not provide further details about the output structure or its implementation. Its stated change is specifically the ability to handle structured output for thinking models in a single pass.
MLX
MLX gains two performance-related changes. Gemma 4 can dynamically select image resolution, while Qwen 3.8 receives faster prompt processing.
For Qwen 3.8, the implementation uses MLX’s gated-delta kernel for long scans. It also folds dense MLP global scales into SwiGLU. These changes are identified as the technical basis for speeding up Qwen 3.8 prompt processing.
Together, the MLX changes cover dynamic image sizing for Gemma 4 and prompt-processing performance for Qwen 3.8. Alongside the model-not-found fix and one-pass structured output, they improve the stated reliability and performance of local inference.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPokoQwen 3.8のプロンプト処理、何を変えて速くしたの？What changed to make Qwen 3.8 prompt processing faster?
- TECHガイドTECH GuideMLXのgated-delta kernelを長いスキャンに使い、dense MLPのglobal scaleをSwiGLUにまとめたんだ。For MLX, it uses the gated-delta kernel for long scans and folds dense MLP global scales into SwiGLU.
- ポコPokoじゃあ、MLXでQwen 3.8をローカル実行する人が、プロンプト処理を速くできるの？So people running Qwen 3.8 locally with MLX may get faster prompt processing?
- TECHガイドTECH Guide対象はMLXユーザーだね。Qwen 3.8のプロンプト処理を高速化し、ローカル推論の性能向上につながる変更だよ。Yes, this targets MLX users. The change speeds up Qwen 3.8 prompt processing and improves local inference performance.
- ポコPokoなるほど。v0.34.4はエラー修正だけでなく、MLX上のQwen 3.8も速くしたんだね。Got it. v0.34.4 isn’t only about error fixes; it also speeds up Qwen 3.8 on MLX.
- TECHガイドTECH Guideそうだね。ただ、示されている変更名はv0.34.4-rc0で、Qwen 3.8の高速化はMLX向けだと押さえておこう。Right. One caveat: the change shown is labeled v0.34.4-rc0, and the Qwen 3.8 speedup is specifically for MLX.
