#on-device-inference — TECH Dashboard

Entries page 1/1 · 2 total

Wed, Jun 3 1 entries

🔥 HOT blog local-llm 2w ago ·

qiita-llm

NVIDIA、Windows PC向けAIチップ「RTX Spark」発表——大規模AIをローカル実行、PC市場へ本格参入 NVIDIA has announced RTX Spark, a new AI chip for Windows PCs designed to run large-scale …

重要度 High High priority 重要度 High · 技術記事 · Local LLM / Open Models High priority · technical post · Local LLM / Open Models 公開 6月3日 Published Jun 3

AI要約 NVIDIAがWindows PC向けの新AIチップ「RTX Spark」を発表。クラウドに頼らず手元のPCで大規模AIモデルをローカル実行できる環境を実現する。

EN NVIDIA has announced RTX Spark, a new AI chip for Windows PCs designed to run large-scale AI models locally without relying on cloud services, marking a serious push into the consumer PC market.

#llm #qiita #nvidia +5

qiita.com →

fallback

Tue, Jun 2 1 entries

blog local-llm 2w ago ·

zenn-llm

Apple Neural Engine で Gemma 4 をうごかす A hands-on guide to running Google's Gemma 4 language model on Apple's Neural Engine (ANE)…

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Local LLM / Open Models Medium priority · technical post · Local LLM / Open Models 公開 6月2日 Published Jun 2

AI要約 Apple デバイスに内蔵される Neural Engine（ANE）上で、Google の大規模言語モデル Gemma 4 を動作させる手法を解説した記事。オンデバイス推論の可能性と ANE 活用の実践的なアプローチを紹介している。

EN A hands-on guide to running Google's Gemma 4 language model on Apple's Neural Engine (ANE), exploring on-device inference techniques and the practical steps needed to leverage ANE for local LLM execution.

#llm #open-model #zenn +6

zenn.dev →

fallback

#on-device-inference 2 total

Entries page 1/1 · 2 total

NVIDIA、Windows PC向けAIチップ「RTX Spark」発表——大規模AIをローカル実行、PC市場へ本格参入 NVIDIA has announced RTX Spark, a new AI chip for Windows PCs designed to run large-scale …

Apple Neural Engine で Gemma 4 をうごかす A hands-on guide to running Google's Gemma 4 language model on Apple's Neural Engine (ANE)…