HomeTags#gguf

Tag timeline

#gguf 6 total

同じキーワードで束ねられた更新を確認できます。カテゴリをまたいだ関連ニュースや実装トピックの追跡に使えます。

Total 6
Showing 6
Page 1/1
Updated 1m ago

Entries page 1/1 · 6 total

Tue, Jun 2 1 entries
🔥 HOT release local-llm 2w ago · ollama-releases

Ollama v0.30.0リリース――llama.cpp直接サポートとGGUF互換性を実現 v0.30.0-rc32: llama-server followups (#16353)

重要度 High High priority 重要度 High · 公式リリース · Local LLM / Open Models High priority · official release · Local LLM / Open Models 公開 6月2日 Published Jun 2

AI要約 OllamaがバージョンのV0.30.0をリリースし、アーキテクチャをGGML上のラッパーからllama.cppの直接サポートへと刷新。GGUFファイル形式との互換性を確保し、Apple SiliconではMLXによる高速化も導入された。

EN llama-server followups Misc fixes for #16031 Add back dropped ROCm build flag for multi-GPU support on windows Fix amdhip64_*.dll version detection for "latest" selection Fix embeddings API for consis

v0.30.0-rc32: llama-server followups (#16353) media fallback
Fri, May 29 2 entries
🔥 HOT release local-llm 3w ago · ollama-releases

Ollama v0.30.0 リリース Ollama Releases v0.30.0-rc31

重要度 High High priority 重要度 High · 公式リリース · Local LLM / Open Models High priority · official release · Local LLM / Open Models 公開 5月29日 Published May 29

AI要約 Ollama v0.30.0はアーキテクチャを刷新し、GGMLの上位レイヤーではなくllama.cppを直接サポート。GGUFファイル形式との互換性も確保し、MLXによるアクセラレーションを導入。

EN ci fix - non-shallow MLX checkout

Ollama Releases v0.30.0-rc31 media fallback
🔥 HOT release local-llm 3w ago · ollama-releases

Ollama v0.30.0 リリース Ollama Releases v0.30.0-rc29

重要度 High High priority 重要度 High · 公式リリース · Local LLM / Open Models High priority · official release · Local LLM / Open Models 公開 5月29日 Published May 29

AI要約 Ollama v0.30.0はアーキテクチャを刷新し、GGMLの上位層ではなくllama.cppを直接サポート。GGUFファイル形式との互換性も確保し、MLXによるアクセラレーションも導入。

EN review comments

Ollama Releases v0.30.0-rc29 media fallback
Tue, May 26 1 entries
blog local-llm 3w ago · qiita-llm

ローカルLLM実行の実践:量子化とメモリ最適化のトレードオフを学ぶ ローカルLLM実行の実践:量子化とメモリ最適化のトレードオフを学ぶ

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Local LLM / Open Models Medium priority · technical post · Local LLM / Open Models 公開 5月26日 Published May 26

AI要約 ローカル環境でLLMを動かす際の量子化手法とメモリ最適化の選択肢を整理し、リソース制約とモデル精度のトレードオフを解説した実践的記事。

EN A practical Qiita article exploring quantization techniques and memory optimization strategies for running LLMs locally, examining the tradeoffs between resource constraints and model quality.

ローカルLLM実行の実践:量子化とメモリ最適化のトレードオフを学ぶ og fallback
Sat, May 23 1 entries
🔥 HOT release local-llm 3w ago · ollama-releases

Ollama v0.30.0 リリース Ollama Releases v0.30.0-rc23

重要度 High High priority 重要度 High · 公式リリース · Local LLM / Open Models High priority · official release · Local LLM / Open Models 公開 5月23日 Published May 23

AI要約 Ollama v0.30.0はアーキテクチャを刷新し、GGMLの上位層ではなくllama.cppを直接サポート。GGUFファイル形式との互換性を確保し、MLXによるアクセラレーションも導入。

EN lint fix

Ollama Releases v0.30.0-rc23 media fallback
Fri, Feb 20 1 entries
blog local-llm 3mo ago · huggingface-blog

GGMLとllama.cppがHugging Faceに参画、ローカルAIの長期発展を後押し GGML and llama.cpp join HF to ensure the long-term progress of Local AI

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Local LLM / Open Models Medium priority · technical post · Local LLM / Open Models 公開 2月20日 Published Feb 20

AI要約 Hugging FaceがGGMLおよびllama.cppプロジェクトのスポンサーとなり、開発者であるGeorgi Gerganov氏らを支援する。CPU/GPU上で大規模言語モデルを軽量に動かす両ツールの長期的な発展を確実にし、ローカルAIエコシステムの推進を狙う。

EN GGML and llama.cpp join HF to ensure the long-term progress of Local AI

fallback