Home›Tags›#mlx

Tag timeline

#mlx23 total

同じキーワードで束ねられた更新を確認できます。カテゴリをまたいだ関連ニュースや実装トピックの追跡に使えます。

Total23#mlx の全掲載記事All listed entries tagged #mlx
Showing23このページの件数Entries on this page
Page1/1静的ページ位置Static page position
Updated一覧の更新時刻List last updated

Entriespage 1/1 · 23 total

昨日YESTERDAY1 entries
🔥 HOT公式OfficialLocal Models·Ollama Releases

Ollama v0.40.0リリースOllama Releases v0.40.0

重要度 HighHigh priority公式リリース · Local LLM / Open Modelsofficial release · Local LLM / Open Models

AI要約Ollama v0.40.0は、Apple Siliconで対応モデルをMLXにより既定実行するようになりました。qwen3.8や意思決定モデル、embeddinggemma-2にも対応し、MacでのローカルAI活用の幅を広げます。

AI SUMMARYOllama v0.40.0 makes MLX the default runtime for supported models on Apple Silicon. It adds qwen3.8, decision models, and embeddinggemma-2, expanding local AI options for Mac users.

Ollama Releases v0.40.0
10/6(火)Tue, Oct 62 entries
公式OfficialLocal Models·Ollama Releases

Ollamaがv0.40.0-rc5をリリースOllama Releases v0.40.0-rc5

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.40.0は、Apple Siliconで対応モデルを既定でMLX実行系へ振り分け、gemma4、qwen3.6、qwen3.5を追加した。判断モデルもMLXで利用でき、Macでのローカル推論の選択肢を広げる。

AI SUMMARYOllama v0.40.0 now routes supported model architectures to MLX by default on Apple Silicon and adds gemma4, qwen3.6, and qwen3.5. MLX support for decision models expands local inference options for Mac users.

Ollama Releases v0.40.0-rc5
公式OfficialLocal Models·Ollama Releases

v0.40.0-rc4:MLXのバージョン更新(#18720)v0.40.0-rc4: MLX: version bump (#18720)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.40.0-rc4は、MLXのバージョンを更新したリリース候補版です。MLXを利用する開発者が、次期正式版に向けた依存関係の変更を事前に確認できます。

AI SUMMARYOllama v0.40.0-rc4 updates the MLX version in this release candidate. It lets MLX users validate the dependency change ahead of the final v0.40.0 release.

v0.40.0-rc4: MLX: version bump (#18720)
10/5(月)Mon, Oct 52 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.40.0-rc3をリリースv0.40.0-rc3: pull: allow RCs to pull matching min_version (#18790)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.40.0は、Apple Siliconで対応モデルの実行基盤をMLXへ自動的に切り替える。qwen3.8やgemma4、判断モデルも利用でき、Mac利用者のローカル推論の選択肢を広げる。

AI SUMMARYOllama v0.40.0 defaults supported models to MLX on Apple Silicon, adding qwen3.8, gemma4, and decision models to expand local inference options for Mac users.

v0.40.0-rc3: pull: allow RCs to pull matching min_version (#18790)
公式OfficialLocal Models·Ollama Releases

Ollama v0.40.0-rc2がリリースOllama Releases v0.40.0-rc2

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.40.0は、Apple Silicon上の対応モデルをMLXで自動実行します。プレリリース中に対象モデルの追加検証も進め、Mac利用者の実行環境選択を簡素化します。

AI SUMMARYOllama v0.40.0 automatically selects MLX on Apple Silicon for supported model architectures and will test more models during prerelease, simplifying runtime choice for Mac users.

Ollama Releases v0.40.0-rc2
10/4(日)Sun, Oct 41 entries
公式OfficialLocal Models·Ollama Releases

v0.40.0-rc1:MLXのトークナイザー処理を配布元の仕様に適合(#18779)v0.40.0-rc1: mlx: match publisher tokenizer semantics (#18779)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.40.0-rc1は、MLXのトークナイザー処理を配布元の仕様に合わせ、前処理順序、Unicode境界、追加トークン、BPE結合の扱いを修正した。GoとPythonの共通テストも加わり、モデル互換性を検証しやすくなる。

AI SUMMARYOllama v0.40.0-rc1 aligns MLX tokenization with publisher behavior for stage order, Unicode boundaries, added tokens, and BPE merges, improving model compatibility.

v0.40.0-rc1: mlx: match publisher tokenizer semantics (#18779)
9/29(火)Tue, Sep 291 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.35.0-rc1をリリースOllama Releases v0.35.0-rc1

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.35.0-rc1はSystem One採点APIを追加し、typical_pを非推奨化した。macOS起動時の更新表示同期やMLX取得の再試行制御も改善し、利用者と開発者の運用を支える。

AI SUMMARYOllama v0.35.0-rc1 introduces the System One scoring API, retires typical_p, and improves macOS startup sync and MLX pull retries for users and developers.

Ollama Releases v0.35.0-rc1
9/24(木)Thu, Sep 241 entries
公式OfficialLocal Models·Ollama Releases

Ollamaがv0.34.4-rc1をリリースv0.34.4-rc1: mlxrunner: Update XGrammar to 0.2.7 for structured outputs

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.4は、断続的な「model not found」エラーを修正し、思考モデルの構造化出力を1回で適用します。MLXではGemma 4の画像解像度の動的選択とQwen 3.8のプロンプト処理高速化も加わり、ローカル利用者の信頼性と性能を高めます。

AI SUMMARYOllama v0.34.4 fixes sporadic model lookup failures and streamlines structured output. MLX adds adaptive Gemma 4 images and faster Qwen 3.8 prompts for local users.

v0.34.4-rc1: mlxrunner: Update XGrammar to 0.2.7 for structured outputs
9/23(水)Wed, Sep 232 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.34.4-rc0をリリースv0.34.4-rc0: mlx: speed up Qwen 3.8 prompt processing (#18550)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.4は、断続的な「model not found」エラーを修正し、思考モデルの構造化出力を一度の処理で適用できるようにした。MLXではGemma 4の画像解像度を動的に選び、Qwen 3.8のプロンプト処理も高速化するため、ローカル推論の信頼性と性能が向上する。

AI SUMMARYOllama v0.34.4 fixes model-not-found errors and adds one-pass structured output for thinking models. MLX users get dynamic Gemma 4 image sizing and faster Qwen 3.8 prompts.

v0.34.4-rc0: mlx: speed up Qwen 3.8 prompt processing (#18550)
公式OfficialLocal Models·Ollama Releases

Ollama v0.34.3をリリースOllama Releases v0.34.3

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.3では、/api/showが各モデルの思考設定と既定値を返すようになり、Apple SiliconでNemotron H Visionモデルにも対応した。macOSアプリのウィンドウ再表示とHugging Faceからの取得も修正され、設定確認と運用を円滑に行える。

AI SUMMARYOllama v0.34.3 exposes thinking controls in /api/show and supports Nemotron H Vision on Apple Silicon. Fixes for Hugging Face pulls and macOS windows ease model use.

Ollama Releases v0.34.3
9/19(土)Sat, Sep 191 entries
公式OfficialLocal Models·Ollama Releases

Ollama、「v0.34.3-rc1」をリリースOllama Releases v0.34.3-rc1

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.3は、/api/showで思考設定の選択肢と既定値を公開する。Apple SiliconのMLXでNemotron H Visionに対応し、Hugging Face取得とmacOSのウィンドウ再表示を修正して運用を円滑化する。

AI SUMMARYOllama v0.34.3 exposes thinking defaults in /api/show, supports Nemotron H Vision on Apple Silicon with MLX, fixes Hugging Face pulls, and stops macOS reopening closed windows.

Ollama Releases v0.34.3-rc1
9/18(金)Fri, Sep 182 entries
公式OfficialLocal Models·Ollama Releases

「Ollama v0.34.2」をリリースOllama Releases v0.34.2

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.2は、初回起動でサインインかローカル利用を選ぶ設定を追加し、完了状態をmacOSとWindowsのデスクトップ版で共有します。さらにollama://appsとMLX投機的デコードの長時間生成時のメモリ増大修正を加え、導入と長時間利用を容易にします。

AI SUMMARYOllama v0.34.2 adds first-launch sign-in or local setup shared across macOS and Windows desktop apps, plus ollama://apps and an MLX memory-growth fix to ease setup and long runs.

Ollama Releases v0.34.2
公式OfficialLocal Models·Ollama Releases

v0.34.2-rc2:mlxrunner、投機的デコード中に解放済みKVバッファーを回収v0.34.2-rc2: mlxrunner: Release freed KV buffers during speculative decode

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.2-rc2のmlxrunnerは、投機的デコードで生成数が256トークンの境界を越えるたび、MLXの解放済みバッファーを回収します。長いコンテキストで数GBのメモリーが残る問題を抑え、長時間生成時のメモリー不足を防ぎます。

AI SUMMARYOllama v0.34.2-rc2 makes mlxrunner clear MLX's freed buffers when speculative decoding crosses a 256-token boundary, preventing multi-GB buildup and OOM during long generations.

v0.34.2-rc2: mlxrunner: Release freed KV buffers during speculative decode
9/16(水)Wed, Sep 161 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.34.1リリースOllama Releases v0.34.1

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.34.1は、MLX safetensorsからのモデル作成を正式機能化し、Apple Siliconでのメモリ処理を改善しました。大規模ライブラリ向けに/api/tagsも高速化され、ローカルモデル利用者の待ち時間を減らします。

AI SUMMARYOllama v0.34.1 makes MLX safetensors model creation generally available, improves Apple Silicon memory use, and speeds up /api/tags for users with large local libraries.

Ollama Releases v0.34.1
9/3(木)Thu, Sep 31 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.33.3-rc1がリリースOllama Releases v0.33.3-rc1

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.33.3は、キャッシュ済みプロンプトのトークン数を報告し、GGUFモデル既定のパラメーターを反映するよう改善。MLX、MLX-C、llama.cppも更新され、ローカルLLM利用者の互換性と把握性が高まります。

AI SUMMARYOllama v0.33.3 adds cached prompt token reporting and respects GGUF model defaults, alongside MLX, MLX-C, and llama.cpp updates, benefiting local LLM users.

Ollama Releases v0.33.3-rc1
8/27(木)Thu, Aug 273 entries
公式OfficialLocal Models·Ollama Releases

Ollama v0.33.1がリリースOllama Releases v0.33.1

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.33.1は、MLXでQwen3.8 Flash Nextに対応し、mlxrunnerに構造化出力と低速ストレージ利用時のMetal GPUタイムアウト対策を追加しました。ローカルLLM利用者の互換性と安定性が向上します。

AI SUMMARYOllama v0.33.1 adds MLX support for Qwen3.8 Flash Next, structured output in mlxrunner, and a Metal GPU timeout fix for slow storage, benefiting local LLM users.

Ollama Releases v0.33.1
公式OfficialLocal Models·Ollama Releases

Ollama v0.33.1-rc1 リリースv0.33.1-rc1: linux: fix llama.cpp docker build (#18040)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.33.1では、MLXランナーに構造化出力サポートと低速ストレージ時のMetal GPUタイムアウト回避が追加され、Qwen3.8 Flash Nextへの対応も加わった。

AI SUMMARYOllama v0.33.1 adds structured output support and Metal GPU timeout fixes to the MLX runner, alongside Qwen3.8 Flash Next support and llama.cpp updates.

v0.33.1-rc1: linux: fix llama.cpp docker build (#18040)
公式OfficialLocal Models·Ollama Releases

v0.33.1-rc0: MLX で「Qwen3.8 Flash Next」サポートを追加v0.33.1-rc0: MLX: Qwen3.8 Flash Next support (#18032)

重要度 InfoInformational深掘り候補 · 公式リリース · Local LLM / Open ModelsDeep-dive candidate · official release · Local LLM / Open Models

AI要約Ollama v0.33.1-rc0 がリリースされ、MLX バックエンドで Qwen3.8 Flash Next モデルのサポートが追加された。Apple Silicon 環境でのモデル選択肢が広がる。

AI SUMMARYOllama v0.33.1-rc0 adds MLX backend support for the Qwen3.8 Flash Next model, expanding the range of models available for efficient inference on Apple Silicon hardware.

v0.33.1-rc0: MLX: Qwen3.8 Flash Next support (#18032)
8/5(水)Wed, Aug 51 entries
コミュニティCommunityLocal Models·Simon Willison's Weblog

PipeNetwork/minimax-h3-mlx:MLX向けMiniMax-H3ローカル実行ガイドPipeNetwork/minimax-h3-mlx

重要度 MediumMedium priority技術記事 · Local LLM / Open Modelstechnical post · Local LLM / Open Models

AI要約MiniMaxがテキスト・画像・音声・動画を扱うマルチモーダルモデル「MiniMax-H3」を公開し、PipeNetworkがApple SiliconのMLXフレームワーク上でローカル実行できる実装を提供した。

AI SUMMARYMiniMax released MiniMax-H3, an omni-modal model supporting text, image, audio, and video generation including 15-second clips, and PipeNetwork published an MLX-based implementation enabling local inference on Apple Silicon.

PipeNetwork/minimax-h3-mlx
8/2(日)Sun, Aug 21 entries
コミュニティCommunityLocal Models·Zenn LLM

Ollama 0.30.8はMLXランナーを内蔵するがGGUFは通らない — M1 Max 64GB実測Ollama 0.30.8 ships with an integrated MLX runner for Apple Silicon, but…

重要度 MediumMedium priority技術記事 · Local LLM / Open Modelstechnical post · Local LLM / Open Models

AI要約Ollama 0.30.8にMLXバックエンドが統合されたが、バイナリ解析とログ突合の結果、通常の`ollama pull`で取得するGGUFモデルはMLXランナーを経由しないことが判明した。速度改善の恩恵を受けるにはモデル形式の確認が必要となる。

AI SUMMARYOllama 0.30.8 ships with an integrated MLX runner for Apple Silicon, but hands-on investigation on an M1 Max 64GB showed that standard GGUF models pulled via `ollama pull` do not go through the MLX path, meaning users cannot assume a speed gain without verifying the active backend.

Ollama 0.30.8はMLXランナーを内蔵するがGGUFは通らない — M1 Max 64GB実測
7/29(水)Wed, Jul 291 entries
コミュニティCommunityLocal Models·Zenn LLM

その公開MLX変換、本当に動きますか。使えない変換を実測で見分けるEven models published on Hugging Face as MLX conversions can be broken — one…

重要度 MediumMedium priority技術記事 · Local LLM / Open Modelstechnical post · Local LLM / Open Models

AI要約Hugging Faceに「MLX変換済み」として公開されているモデルでも、ロード不能や全文字化けといった致命的な不具合を抱える例があり、著者がBaiduのOCRモデルを題材に既存変換2種を実測して問題を明らかにした。重みファイルが生成できても正常動作するとは限らず、実測による検証が不可欠だと示している。

AI SUMMARYEven models published on Hugging Face as MLX conversions can be broken — one failing to load and another producing garbled output — as the author discovered when benchmarking two existing conversions of Baidu's Unlimited-OCR (3.3B, MIT). The article argues that generating weight files does not guarantee a working model, and only empirical testing can confirm usability.

その公開MLX変換、本当に動きますか。使えない変換を実測で見分ける
7/26(日)Sun, Jul 261 entries
コミュニティCommunityLocal Models·Zenn LLM

日本語OCRモデルSarashina2.2-OCRをMLXへ移植する。モデルカードだけでは分からない実装を追った記録This article documents the process of porting the Japanese OCR model…

重要度 MediumMedium priority技術記事 · Local LLM / Open Modelstechnical post · Local LLM / Open Models

AI要約Sarashina2.2-OCRをApple Silicon向けMLXフレームワークへ移植する際、モデルカードに記載されていない実装の詳細を調査・解決した過程をまとめた記事。ローカル環境で高精度な日本語OCRを動かしたい開発者にとって実践的な参考資料となる。

AI SUMMARYThis article documents the process of porting the Japanese OCR model Sarashina2.2-OCR to the MLX framework for Apple Silicon, uncovering implementation details absent from the official model card. It serves as a practical guide for developers aiming to run high-accuracy Japanese OCR locally.

日本語OCRモデルSarashina2.2-OCRをMLXへ移植する。モデルカードだけでは分からない実装を追った記録
7/18(土)Sat, Jul 181 entries
コミュニティCommunityLocal Models·Zenn AI

ローカルLLM study1-a: gemma4:e2b/e4bのMLX版はどれだけ速いかThis article benchmarks gemma4 e2b/e4b models running via the MLX framework on…

重要度 MediumMedium priority技術記事 · Local LLM / Open Modelstechnical post · Local LLM / Open Models

AI要約Apple Silicon 向け MLX フレームワークで動作する gemma4 の e2b/e4b モデルの推論速度を実測・比較した記事。ローカル環境での実用性を判断する上で参考になるベンチマーク結果を提供している。

AI SUMMARYThis article benchmarks gemma4 e2b/e4b models running via the MLX framework on Apple Silicon, measuring real-world inference speed to assess local deployment viability.