#llama-cpp 14 total

AI要約 Apple Silicon 上で Command A および North ファミリーモデルが MLX エンジンで動作可能になり、llama.cpp エンジンを build 9672 へ更新、MLX ビルド成果物の修正も含むリリース。

EN What's Changed Command A and North family models now run on Apple Silicon with the MLX engine Updated the underlying llama.cpp engine to build 9672 Fixed build artifacts for MLX Full Changelog : v0.30

AI要約 Ollama v0.30.10-rc0がリリース候補として公開。主な変更はllama.cppをコミットb9672（PR #16775）へ更新し、ローカルLLM推論エンジンの基盤を最新化したもの。

EN llama: update llama.cpp to b9672 ( #16775 )

AI要約 Ollama の v0.30.9 リリース候補（rc0）が公開された。主な変更点として llama.cpp がビルド b9637 へ更新されており、ローカル LLM 推論エンジンの最新改良が取り込まれている。

EN llama: update llama.cpp to b9637 ( #16609 )

AI要約 llama.cpp を b9509 に更新し、x86/CUDA/Linux/Windows 環境で発生していた Gemma 4 12B マルチモーダルプロジェクターの n_head=0 ゼロ除算クラッシュを修正。

EN Bumps llama.cpp to b9509, fixing a divide-by-zero crash in the Gemma 4 12B multimodal projector (n_head=0) that affected x86/CUDA users on Linux and Windows.

AI要約 Ollama v0.30.1 がリリースされ、llama.cpp b9478 で導入されたデフォルト30秒間隔の SSE ping コメントフレームを JSON として誤解析していた不具合が修正された。ストリーミング中にコロンのみの SSE コメント行をスキップするよう処理が改善されている。

EN llama.cpp b9478 added a default 30s SSE ping that emits colon-only comment frames (":\n\n") while streamed requests are idle; Ollama treated non-data SSE lines as JSON, so skip SSE comments in complet

AI要約 OllamaがバージョンV0.30.0をリリースした。llama.cppとの統合を改善し、互換性とパフォーマンスを向上させた。Apple SiliconのMLXエンジンを補完する形で、より幅広いハードウェアへのサポートを拡大している。

EN Ollama 0.30 is now available, with improved compatibility and performance using llama.cpp . This augments the MLX engine on Apple Silicon, bringing support to a wider range of hardware. This release b

AI要約 iPhone実機でMLX・llama.cpp・LiteRT-LM・CoreMLの4ランタイムをベンチマークし、ローカルLLMの推論速度を比較検証した記事。

EN A hands-on benchmark comparing four on-device LLM runtimes—MLX, llama.cpp, LiteRT-LM, and CoreML—running on a physical iPhone to determine which delivers the fastest inference.

AI要約 ローカルLLM実行エンジン ik_llama.cpp を Windows 向けに自力ビルドする手順を解説。通常の llama.cpp より約3割高速とされる。

EN A practical guide to building ik_llama.cpp on Windows from source, covering a fork of llama.cpp reported to run local LLMs roughly 30% faster than the upstream project.

AI要約 ローカル LLM 実行ツール Ollama がバージョン 0.30.0 を公開した。GitHub のリリースタグは rc17 を経て付与されており、モデル実行やランタイム周りの改善が含まれると見られる。ローカル推論基盤としての継続的な機能拡張が示された格好だ。

EN Ollama published v0.30.0, the latest update to its popular local LLM runtime. The release tag, promoted from rc17, signals continued iteration on model execution, runtime stability, and the broader on-device inference experience.

AI要約 Hugging FaceがGGMLおよびllama.cppプロジェクトのスポンサーとなり、開発者であるGeorgi Gerganov氏らを支援する。CPU/GPU上で大規模言語モデルを軽量に動かす両ツールの長期的な発展を確実にし、ローカルAIエコシステムの推進を狙う。

原文JA Hugging FaceがGGMLおよびllama.cppプロジェクトのスポンサーとなり、開発者であるGeorgi Gerganov氏らを支援する。CPU/GPU上で大規模言語モデルを軽量に動かす両ツールの長期的な発展を確実にし、ローカルAIエコシステムの推進を狙う。