Ollama v0.34.1リリースOllama Releases v0.34.1
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
- Ollama v0.34.1は、MLX safetensorsからのモデル作成を正式機能化し、Apple Siliconでのメモリ処理を改善しました。
- 大規模ライブラリ向けに/api/tagsも高速化され、ローカルモデル利用者の待ち時間を減らします。
Ollama v0.34.1 makes MLX safetensors model creation generally available, improves Apple Silicon memory use, and speeds up /api/tags for users with large local libraries.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (github.com) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (github.com).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
MLXモデル作成
Ollama v0.34.1では、MLX safetensorsからのモデル作成が実験的な扱いではなくなり、正式機能となった。ローカルモデルの作成に関わる変更に加え、メモリ処理やモデルライブラリの読み出しも改善されている。
一方、GGUFモデルの作成では手順が変更された。safetensorの変換と量子化には、llama.cppのツールを使用する必要がある。あわせてMLXとllama.cppも更新された。
Apple Silicon
Apple Silicon上でのMLXのメモリ処理が改善された。MLX safetensorsからのモデル作成の正式機能化とともに、Apple Silicon環境でMLXを利用する際の処理に手が加えられた形だ。
/api/tags
大規模なモデルライブラリに対する/api/tagsの処理が高速化された。テスト時のコールド状態では、処理時間が3.1秒から294ミリ秒へ短縮されたとされる。多数のローカルモデルを扱う利用者にとって、待ち時間の削減につながる変更となる。
また、モデルのcapabilitiesが一貫して報告されるようになった。モデル一覧の取得速度だけでなく、返される能力情報の扱いも整えられている。
typical_p
暴走したrepeat tokenを検出する条件は、100個の反復トークンが必要となるよう変更された。OCRなどでの誤検出を減らすことが目的と説明されている。
typical_pは非推奨となり、新しいモデルの作成時には設定できなくなった。ただし、既存のGGUFモデルでは引き続きサポートされる。
MLX safetensors model creation
Ollama v0.34.1 makes model creation from MLX safetensors a generally available feature rather than an experimental one. The release also changes the process for creating GGUF models, improves memory handling on Apple Silicon, and reduces waiting time when accessing large local model libraries.
GGUF model creation now requires llama.cpp tooling for safetensor conversion and quantization. This requirement distinguishes the GGUF workflow from the newly formalized MLX safetensors model-creation feature.
Improved MLX memory handling
The release improves MLX memory handling on Apple Silicon. It also includes MLX and llama.cpp updates, alongside the changes to model creation and GGUF conversion.
Runaway repeat-token detection has also been adjusted. Detection now requires 100 repeated tokens, a threshold intended to reduce false positives in cases such as OCR. The change means shorter sequences of repeated tokens will not meet the new detection requirement.
Faster /api/tags
The /api/tags endpoint is now much faster when used with large model libraries. In testing, a cold request fell from 3.1 seconds to 294 milliseconds.
Model capabilities are also now reported consistently through the endpoint. Together, the speed and reporting changes address both response time and capability information for users managing large local collections.
Deprecated typical_p
The typical_p setting is deprecated. It can no longer be set when creating new models, although existing GGUF models retain support for it.
This creates a clear distinction between new and existing models: new model creation cannot configure typical_p, while previously created GGUF models that use the setting remain supported. The release’s full changelog is identified as covering v0.34.0 through v0.34.1-rc1.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPoko/api/tagsがテストで3.1秒から294ミリ秒に？ ずいぶん速そうだけど、これって大きいこと？/api/tags went from 3.1 seconds to 294 milliseconds in testing? That sounds much faster—is it a big change?
- TECHガイドTECH Guide大きな短縮だね。大規模なローカルモデルライブラリで、待ち時間を減らす変更として紹介されているよ。It’s a substantial reduction. The release presents it as a way to cut waiting time for users with large local model libraries.
- ポコPoko「MLX safetensorsからモデルを作る」って、何をしてるの？What does it mean to create a model from MLX safetensors?
- TECHガイドTECH Guidesafetensorsはモデルの重みを保存する形式だよ。そこからモデルを作る機能が、実験扱いではなくなったんだ。safetensors is a format for storing model weights. Creating models from MLX safetensors is no longer treated as experimental.
- ポコPokoぼくならApple Siliconでモデルをたくさん置いて、さっと選びたいな。メモリも楽になるのかな？I’d keep lots of models on Apple Silicon and pick one quickly. Would memory use feel smoother too?
- TECHガイドTECH Guideその使い方には合いそう。ただし速度の数値は大規模ライブラリのコールドテストで、メモリ改善はApple SiliconのMLXが対象だよ。That could fit. But the speed figure came from a cold test on a large library, while the memory improvement specifically targets MLX on Apple Silicon.
