#apple-silicon13 total

AI要約Ollama v0.32.7がリリースされ、Apple SiliconのMLXエンジン経由でMeta製モデル「Muse Glimmer」の初期サポートが追加された。NVIDIA・AMDなど他プラットフォーム向けの最適化は近日提供予定。

AI SUMMARYOllama v0.32.7 adds initial support for Meta's Muse Glimmer model via the MLX engine on Apple Silicon, with broader NVIDIA, AMD, and other platform support coming soon.

AI要約MiniMaxがテキスト・画像・音声・動画を扱うマルチモーダルモデル「MiniMax-H3」を公開し、PipeNetworkがApple SiliconのMLXフレームワーク上でローカル実行できる実装を提供した。

AI SUMMARYMiniMax released MiniMax-H3, an omni-modal model supporting text, image, audio, and video generation including 15-second clips, and PipeNetwork published an MLX-based implementation enabling local inference on Apple Silicon.

AI要約M1 Max 64GBでQwen3.5-9B Q4量子化モデルを実測したところ、短い日本語回答に対して数千トークンの過剰出力が発生し、「GPT-4超え」の主張は実環境では検証困難であることが示された。

AI SUMMARYHands-on testing of Qwen3.5-9B (Q4, 6.6 GB) on an M1 Max revealed that a 131-character Japanese answer ballooned to 3,936 tokens, exposing a significant verbosity issue and making the widely-circulated "beats GPT-4" claim impossible to verify under real conditions.

AI要約Ollama 0.30.8にMLXバックエンドが統合されたが、バイナリ解析とログ突合の結果、通常の`ollama pull`で取得するGGUFモデルはMLXランナーを経由しないことが判明した。速度改善の恩恵を受けるにはモデル形式の確認が必要となる。

AI SUMMARYOllama 0.30.8 ships with an integrated MLX runner for Apple Silicon, but hands-on investigation on an M1 Max 64GB showed that standard GGUF models pulled via `ollama pull` do not go through the MLX path, meaning users cannot assume a speed gain without verifying the active backend.

AI要約Apple M3 Ultra・512GB搭載のMac Studio 1台でKimi K3を動かすため441GBに枝刈りし、Kimi Code CLIと組み合わせてSWE-Lancerの実タスク8本中5本・$3,500相当を達成した。

AI SUMMARYA developer pruned Kimi K3 down to 441 GB and ran it on a single Mac Studio (Apple M3 Ultra, 512 GB), achieving 5/8 correct on real SWE-Lancer tasks worth $3,500 using Kimi Code CLI as the harness.

AI要約Apple M5 Pro 48GBでの実測値と公開一次ソースを組み合わせ、6GB〜大容量までのVRAM階級ごとに最適なローカルLLMモデルをQwen3.5シリーズ中心にまとめたベンチマーク記事。

AI SUMMARYA practical benchmark guide selecting the best local LLM per VRAM tier (6 GB and up), combining direct measurements on Apple M5 Pro 48 GB with cited third-party data, with Qwen3.5 models dominating the lower tiers.

AI要約Sarashina2.2-OCRをApple Silicon向けMLXフレームワークへ移植する際、モデルカードに記載されていない実装の詳細を調査・解決した過程をまとめた記事。ローカル環境で高精度な日本語OCRを動かしたい開発者にとって実践的な参考資料となる。

AI SUMMARYThis article documents the process of porting the Japanese OCR model Sarashina2.2-OCR to the MLX framework for Apple Silicon, uncovering implementation details absent from the official model card. It serves as a practical guide for developers aiming to run high-accuracy Japanese OCR locally.

AI要約iPhoneのA19チップ上でGemma 4 12Bを動作させる際に投機的デコードを適用し、推論速度を最大2.4倍改善した手法を解説した記事。エッジデバイスでの大規模モデル実用化に向けた具体的な最適化アプローチとして注目される。

AI SUMMARYThis article details how speculative decoding applied to Gemma 4 12B on Apple's A19 chip achieves up to 2.4× inference speedup on iPhone, offering practical techniques for running large models efficiently on edge devices.

AI要約Apple Silicon 上で Core ML を使い Gemma 4 12B を 128K トークンのコンテキスト長で動作させる手順を解説した記事で、ローカル環境での大規模モデル活用の可能性を示している。

AI SUMMARYThis article explains how to run Gemma 4 12B with a 128K context window on Apple Silicon using Core ML, demonstrating that large open models can be deployed locally without cloud infrastructure.

AI要約Apple Silicon 向け MLX フレームワークで動作する gemma4 の e2b/e4b モデルの推論速度を実測・比較した記事。ローカル環境での実用性を判断する上で参考になるベンチマーク結果を提供している。

AI SUMMARYThis article benchmarks gemma4 e2b/e4b models running via the MLX framework on Apple Silicon, measuring real-world inference speed to assess local deployment viability.

AI要約M5 Mac上でGemma 4 12BとGemma 3を実際に比較し、エンコーダーフリー設計による推論速度の向上が実用レベルで体感できるかを検証した記事。ローカルLLM選定の参考になる実測データを提供している。

AI SUMMARYA hands-on benchmark comparing Gemma 4 12B and Gemma 3 on an M5 Mac, examining whether the encoder-free architecture delivers real-world inference speed gains for local LLM users.

AI要約Ollama v0.31.1 では、MLX バックエンドにおける Gemma4 の MoE モデルのローディングコードが整理・強化された。Apple Silicon 環境での Gemma4 MoE モデルの読み込み安定性が向上する。

AI SUMMARYOllama v0.31.1 refines the MLX backend's Gemma4 mixture-of-experts model loading code, improving stability and reliability when running Gemma4 MoE models on Apple Silicon.

AI要約Apple Silicon上でCommand AおよびNorthファミリーのモデルがMLXエンジンで動作可能になり、内部のllama.cppエンジンをbuild 9672へ更新、MLXビルド成果物の修正も含む小規模アップデート。

AI SUMMARYOllama v0.30.10 enables Command A and North family models to run on Apple Silicon via the MLX engine, updates the underlying llama.cpp engine to build 9672, and fixes MLX build artifacts.