【実測】あなたのGPUで動く最強ローカルLLM 2026年7月版 — VRAM階級別ベンチマークA practical benchmark guide selecting the best local LLM per VRAM tier (6 GB…
匿名の公開いいねです。記事の保存・お気に入りではなく、Featured、Top 3、重要度、掲載順位には影響しません。仕組みとプライバシーAnonymous public likes are reactions, not saved articles or bookmarks. They do not affect Featured, Top 3, importance, or listing order.How it works and privacy
Apple M5 Pro 48GBでの実測値と公開一次ソースを組み合わせ、6GB〜大容量までのVRAM階級ごとに最適なローカルLLMモデルをQwen3.5シリーズ中心にまとめたベンチマーク記事。
A practical benchmark guide selecting the best local LLM per VRAM tier (6 GB and up), combining direct measurements on Apple M5 Pro 48 GB with cited third-party data, with Qwen3.5 models dominating the lower tiers.
本ページの本文と要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (zenn.dev) をご確認ください。The body and summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (zenn.dev).
要約と収集メタデータに基づく AI 解説。元記事全文の転載・翻訳ではありません。AI explainer based on the summaries and collected metadata, not a copy or translation of the full source article.
Apple M5 Pro 48GBでの実測値と公開一次ソースの数値を組み合わせ、6GBから大容量までのVRAM階級ごとにローカルLLMを比較したベンチマークだ。Qwen3.5シリーズを中心に、数値の取得方法と出典を区別してモデル選びの材料を示している。
VRAM階級別
比較はVRAM容量の階級ごとに整理され、各条件に適したモデルを選ぶ構成となっている。特に低い階級ではQwen3.5モデルが優勢とされる。検証機にはNVIDIA GPUが搭載されていないため、NVIDIA系の数値は実測ではなく、すべて公開一次ソースから引用した値として扱われている。
実測と出典
掲載数値には「実測」か「出典」の区別が付けられている。実測はApple M5 Pro 48GBで計測し、生データも全件掲載。ファイルサイズは2026年7月29日時点のHuggingFaceファイル一覧にある実サイズを使用している。ただし、gpt-oss-20bのみOllamaライブラリの配布サイズが採用されている。
tok/sの算出
生成速度のtok/sは、Ollamaの「/api/generate」を非ストリームで実行し、返されたeval_countをeval_durationで割って算出している。壁時計時間ではなくサーバ側の計測値を使うため、ネットワークやJSONパースによる揺らぎは混ざらない。計測ハーネスでは最初の実行をウォームアップとして破棄し、実行回数の既定値は3回となっている。
代替モデル
12GB級のコーディング用途には、Qwen2.5-Coder-14B Q4_K_Mが代替として示され、ファイルサイズは8.99GB。6GB級でマルチモーダルが必要な場合はGemma 4 E4B Q4_K_Mが挙げられ、サイズは4.98GBだが、6GBでは余裕が少なく、ctxを絞ることが前提とされている。
Practical benchmark guide
This guide selects the best local LLM for each VRAM tier, covering configurations from 6 GB through larger-capacity systems. It combines direct measurements on an Apple M5 Pro with 48 GB of memory and figures attributed to public primary sources, with Qwen3.5 models dominating the lower tiers.
Direct measurements
Every numerical result is labeled according to its origin. “Measured” values were collected on the author’s Apple M5 Pro 48 GB system, with the complete raw data provided. “Source” values come from linked public primary sources.
The test system does not include an NVIDIA GPU. Consequently, all NVIDIA-related figures are sourced rather than directly measured by the author.
Generation speed is expressed in tokens per second. It is calculated from the eval_count and eval_duration values returned by the non-streaming /api/generate endpoint. Because this uses server-side measurements rather than wall-clock time, the result does not include fluctuations caused by network activity or JSON parsing.
The benchmark harness runs the selected model three times by default, although the run count can be changed. The first run is discarded as a warm-up.
File size
File sizes are based on the actual sizes shown in Hugging Face file listings as of July 29, 2026. The gpt-oss-20b entry is the exception: its figure uses the distribution size from the Ollama library.
These distinctions keep measured performance, externally sourced results, and model distribution sizes clearly separated.
VRAM tier alternatives
For coding workloads in the 12 GB class, the guide identifies Qwen2.5-Coder-14B Q4_K_M as an alternative with an 8.99 GB file size.
For users who need multimodal capability in the 6 GB class, it identifies Gemma 4 E4B Q4_K_M at 4.98 GB. The guide characterizes this as a tight fit for 6 GB and assumes that the context length will be restricted.
ポコとTECHガイドPoko & TECH Guide
ポコと当サイトのTECHガイドが、記事の要約と収集した情報から読みどころを語るAI生成の対話です。Poko and TECH Dashboard's own TECH Guide discuss the article's highlights in an AI-generated conversation based on its summary and collected source details.
- ポコPokoVRAMが6GBでも動かせるモデルを選べるんだ！Qwen3.5中心に、容量別で比べたってこと？So even a 6 GB VRAM setup gets model recommendations! Is this basically a tier-by-tier comparison centered on Qwen3.5?
- TECHガイドTECH Guideそうじゃ。この記事ではVRAMの階級ごとに候補を整理し、Apple M5 Pro 48GBの実測と公開一次ソースの値を分けて示しておる。Exactly. The article sorts models by VRAM tier and clearly separates measurements from an Apple M5 Pro 48 GB from figures taken from public primary sources.
- ポコPoko自分のGPUのVRAMを棚の広さに見立てて、収まるモデルを探せる感じ？用途別の代案もあるんだね。So I can treat my GPU’s VRAM like shelf space and find a model that fits? And there are alternatives for specific uses too.
- TECHガイドTECH Guideそんな感覚じゃ。掲載例では12GB級のコーディング向けにQwen2.5-Coder-14B、6GB級のマルチモーダル向けにGemma 4 E4Bも挙げておる。That’s the idea. It also lists Qwen2.5-Coder-14B for 12 GB-class coding and Gemma 4 E4B for 6 GB-class multimodal use.
- ポコPokoつまり、VRAM容量と用途を見れば、ローカルLLMの候補を絞りやすい比較なんだ。へえ、分かりやすい！So checking my VRAM capacity and intended use helps narrow down local LLM options. Nice—that’s easy to follow!
- TECHガイドTECH Guideただし、NVIDIA系の数値は実機測定ではなく、すべて公開元からの引用じゃ。6GBでGemma 4 E4Bを使う場合も余裕が少なく、ctxを絞る前提じゃよ。One caveat: every NVIDIA figure comes from published sources, not hands-on testing. Gemma 4 E4B is also tight at 6 GB and assumes a reduced context setting.
