Local LLM / Open Modelspage 2/8

AI要約Ollama v0.34.2-rc1は、mlxrunnerのbase.goをmodel.goへ改名し、量子化情報の読み取りと解決をquant.goへ集約した。モデルの契約、チェックポイント、レイヤー構築の境界が明確になり、保守担当者が変更しやすくなる。

AI SUMMARYOllama v0.34.2-rc1 renames mlxrunner's base.go to model.go and groups quantization metadata in quant.go, clarifying contract, checkpoint, and layer-building boundaries for maintainers.

AI要約Ollama v0.34.2-rc0はllama.cppをb10969へ更新し、libllamaとlibmtmd間の重複シンボルを防ぐため互換パッチをlibllama側へ移した。リンク競合を解消し、利用者のビルドを円滑にする。

AI SUMMARYOllama v0.34.2-rc0 updates llama.cpp to b10969 and relocates its compatibility patch to libllama, preventing duplicate symbols with libmtmd and enabling cleaner builds.

AI要約Ollama v0.34.1は、MLX safetensorsからのモデル作成を正式機能化し、Apple Siliconでのメモリ処理を改善しました。大規模ライブラリ向けに/api/tagsも高速化され、ローカルモデル利用者の待ち時間を減らします。

AI SUMMARYOllama v0.34.1 makes MLX safetensors model creation generally available, improves Apple Silicon memory use, and speeds up /api/tags for users with large local libraries.

AI要約Ollama v0.34.1-rc2は、APIのtypical_pパラメーターを非推奨としつつ、この設定を使う既存GGUFモデルへの対応を維持する。利用者は互換性を保ちながら将来のAPI変更に備えられる。

AI SUMMARYOllama v0.34.1-rc2 deprecates the typical_p API parameter but keeps GGUF models already configured with it working, letting users plan migrations without an immediate break.

AI要約Ollama v0.34.1-rc1がリリース候補版としてGitHubで公開された。正式版に先立つバージョンを試したいローカルLLM利用者や運用担当者が、互換性や動作を確認し、導入判断に向けて評価できる。

AI SUMMARYOllama v0.34.1-rc1 is now available on GitHub as a release candidate. It lets local LLM users and operators evaluate the upcoming version before general release.

AI要約Ollama v0.34.0はChatGPT Desktopからローカルモデルを直接利用可能にし、macOS版アプリから設定できる。Apple Siliconで構造化出力も高速化され、既存の作業手順を保ちたい利用者に役立つ。

AI SUMMARYOllama v0.34.0 links local models with ChatGPT Desktop, adds setup through the macOS app, and speeds structured outputs on Apple Silicon, helping users retain familiar workflows.

AI要約Ollama v0.34.0-rc5がリリース候補版として公開された。正式版に先立ち、ローカルLLM利用者や開発者が手元の環境でこの特定ビルドを評価し、導入判断や互換性確認を進められる。

AI SUMMARYOllama v0.34.0-rc5 is now available as a release candidate. It lets local LLM users and developers evaluate this specific build before a final release.

AI要約OllamaはChatGPT Desktopからローカルモデルを直接利用できるようにし、MacOS版アプリで設定を提供する。Apple Siliconでの構造化出力も高速化され、既存のデスクトップ業務フローでオープンモデルを使いやすくする。

AI SUMMARYOllama enables its models in ChatGPT Desktop through setup in the macOS app and speeds up structured outputs on Apple Silicon. This helps open-model users keep their existing desktop workflow.

AI要約Ollama v0.34.0-rc3が、v0.34.0の第3リリース候補版として公開された。具体的な変更内容は取得情報に含まれないが、正式版に先立って候補ビルドを検証したいローカルLLM利用者に役立つ。

AI SUMMARYOllama v0.34.0-rc3 is available as the third release candidate for v0.34.0. The captured details list no changes, so it chiefly benefits local LLM users testing the candidate build.

AI要約Ollama v0.34.0-rc2がリリース候補版として公開された。安定版に先立って次期バージョンを確認したいローカルLLM利用者が、既存環境との比較や導入判断、事前検証に使える更新だ。

AI SUMMARYOllama v0.34.0-rc2 is now available as a release candidate. It lets local LLM users evaluate the upcoming version before deciding on deployment.

AI要約Ollama v0.34.0-rc1がリリース候補版として公開された。収集された情報には具体的な変更点の記載がないものの、ローカルLLM利用者は正式版に先立って新バージョンを評価できる。

AI SUMMARYOllama v0.34.0-rc1 is available as a release candidate; no specific changes appear in the collected details, but local LLM users can evaluate it before the final release.

AI要約Ollama v0.34.0-rc0がGitHub上でリリース候補版として公開された一方、収集情報では具体的な機能追加や修正内容は確認できない。正式版に先立って新ビルドを試したい利用者向けとなる。

AI SUMMARYOllama v0.34.0-rc0 is now available on GitHub as a release candidate, though no specific changes are listed. It enables users to test the build before a final release.

AI要約Ollama v0.33.3は、直前のv0.33.2からの差分をGitHubの変更履歴で確認できるパッチリリースです。ローカルLLMの運用者や開発者が、内容を精査して更新の可否を判断するのに役立ちます。

AI SUMMARYOllama v0.33.3 is a patch release with changes tracked against v0.33.2 in its GitHub changelog, helping local-LLM users assess whether to update.

AI要約Ollama v0.33.3-rc2がプレリリースとして公開され、掲載ページにはv0.33.2からv0.33.3-rc0までの変更履歴へのリンクがある。次期パッチを事前評価したい利用者が差分を確認できる。

AI SUMMARYOllama v0.33.3-rc2 is now available as a prerelease, with links to changes from v0.33.2 through v0.33.3-rc0 for users evaluating the next patch.

AI要約Ollama v0.33.3は、キャッシュ済みプロンプトのトークン数を報告し、GGUFモデル既定のパラメーターを反映するよう改善。MLX、MLX-C、llama.cppも更新され、ローカルLLM利用者の互換性と把握性が高まります。

AI SUMMARYOllama v0.33.3 adds cached prompt token reporting and respects GGUF model defaults, alongside MLX, MLX-C, and llama.cpp updates, benefiting local LLM users.

AI要約Ollama v0.33.3-rc0はllama.cppをb10729へ更新し、既存の互換フックを保ちつつ、テキストテンソルのキャッシュで範囲単位の読み出しに対応します。上流の方式変更後も量子化関連処理の互換性を維持できます。

AI SUMMARYOllama v0.33.3-rc0 updates llama.cpp to b10729 and caches each text tensor for ranged slab reads, preserving compatibility after the upstream loading change.

AI要約Hy4 Previewは、総7700億・稼働490億パラメータと100万トークンのコンテキストを備えるTencentのテキスト専用オープンウェイトLLMです。推論設定を含むチャットテンプレートも公開され、長文処理やモデル能力の検証に役立ちます。

AI SUMMARYHy4 Preview is Tencent's text-only open-weight LLM with 770B total, 49B active parameters and a 1M-token context. Its chat template helps users assess reasoning and long-context behavior.

AI要約Ollama v0.33.2は、アプリの外観を再びシステム設定に連動させ、ダークモードを復旧しました。macOSでの二重起動やClaude Desktopプロキシの通信中断も修正し、デスクトップ利用の安定性を高めます。

AI SUMMARYOllama v0.33.2 restores system-linked dark mode, corrects duplicate macOS app launches, and avoids Claude Desktop proxy disruptions for a steadier experience.

AI要約Ollama v0.33.2-rc1では、アプリでアカウントに紐づくClaude向けクラウドモデルを一覧表示できるようになりました。利用可能なモデルを把握しやすくなり、Claude利用者が選択しやすくなります。

AI SUMMARYOllama v0.33.2-rc1 lets the app display cloud-based Claude models linked to an account, helping Claude users see available options and choose more easily.

AI要約Ollama v0.33.2-rc0がリリース候補版として公開されたが、収集されたGitHub情報には具体的な変更内容がない。利用者は正式版の提供前に、この候補版を検証できる。

AI SUMMARYOllama v0.33.2-rc0 is now available as a release candidate, though the collected GitHub context lists no changes; users can evaluate it before a stable release.

AI要約Ollama v0.33.1は、MLXでQwen3.8 Flash Nextに対応し、mlxrunnerに構造化出力と低速ストレージ利用時のMetal GPUタイムアウト対策を追加しました。ローカルLLM利用者の互換性と安定性が向上します。

AI SUMMARYOllama v0.33.1 adds MLX support for Qwen3.8 Flash Next, structured output in mlxrunner, and a Metal GPU timeout fix for slow storage, benefiting local LLM users.

AI要約QwenがQwen4の設計を先行公開するマルチモーダルMoEモデル「Qwen3.8-Flash-Next」をリリース。総パラメータ125Bながらアクティブは6Bのみで、高い推論効率を実現している。

AI SUMMARYQwen3.8-Flash-Next is a multimodal MoE model previewing the Qwen4 architecture, with 125B total parameters but only 6B active at inference time, delivering strong performance at low computational cost.

AI要約Ollama v0.33.1では、MLXランナーに構造化出力サポートと低速ストレージ時のMetal GPUタイムアウト回避が追加され、Qwen3.8 Flash Nextへの対応も加わった。

AI SUMMARYOllama v0.33.1 adds structured output support and Metal GPU timeout fixes to the MLX runner, alongside Qwen3.8 Flash Next support and llama.cpp updates.

AI要約Ollama v0.33.1-rc0 がリリースされ、MLX バックエンドで Qwen3.8 Flash Next モデルのサポートが追加された。Apple Silicon 環境でのモデル選択肢が広がる。

AI SUMMARYOllama v0.33.1-rc0 adds MLX backend support for the Qwen3.8 Flash Next model, expanding the range of models available for efficient inference on Apple Silicon hardware.

AI要約Claude DesktopをOllamaのサードパーティゲートウェイとして簡単に設定できるようになり、キャッシュの改善やプリフィル中断時のハング修正も含まれる。

AI SUMMARYOllama v0.33.0 adds native Claude Desktop integration as a third-party gateway, improves caching, and fixes a hang caused by agent clients cancelling long prefills.

AI要約Ollama v0.33.0-rc4がリリースされ、画像フォールバック時にプロキシが文字列コンテンツを正しく保持するバグが修正された。

AI SUMMARYOllama v0.33.0-rc4 is a release candidate that fixes a proxy bug where string content was not preserved correctly during image fallback handling.

AI要約LLMCが公開した約332億パラメーターのDense型モデル「LLM-jp-4 33B」を、RTX 5070 TiとRTX 3070 Tiの2枚構成でローカル実行し、Qwen3.8-27Bとの推論性能を比較検証した記事。

AI SUMMARYA hands-on benchmark comparing the newly released Japanese LLM "LLM-jp-4 33B" (a 33B Dense model) against Qwen3.8-27B, run locally on a dual-GPU setup of RTX 5070 Ti and RTX 3070 Ti.

AI要約RAM 6.5GBという極限環境でllama.cppの内部を改造し、独自アルゴリズム「AMI」によりAttentionキャッシュを効率化することで、リソース加算に頼らず推論を成立させる手法を解説した技術記事。

AI SUMMARYA developer hacked llama.cpp internals on a RAM-constrained 6.5 GB machine using a subtraction-first design philosophy inspired by Japanese car-nav and electronic dictionaries, proposing the AMI (Attention Mesh Index Transmission) algorithm as a public-domain technique for efficient LLM inference.

AI要約実務でRAGシステムを構築する際に直面する検索精度の低さ・クラウドコストの増大・機密データの外部送信リスクという三つの課題を、ローカルLLMとクラウドを組み合わせたハイブリッド構成で解決するアプローチを解説した記事。

AI SUMMARYThis article addresses three common RAG implementation challenges—poor retrieval accuracy, high cloud costs, and confidential data exposure—by proposing a hybrid architecture that combines local LLMs with cloud services to balance performance, cost, and privacy.

AI要約業務PCのローカルLLMでISMS適合評価を行う連載第4回。LLMの判定根拠を可視化し、顧客報告書に耐えうる透明性を確保する仕組みを解説している。

AI SUMMARYThe fourth installment of a series on using a local LLM for ISMS conformity assessment explains how to surface the model's reasoning so that its verdicts against JIS Q 27001/27002 are auditable and suitable for client reports.