HomeTags#litert

Tag timeline

#litert 5 total

同じキーワードで束ねられた更新を確認できます。カテゴリをまたいだ関連ニュースや実装トピックの追跡に使えます。

Total 5
Showing 5
Page 1/1
Updated 1h ago

Entries page 1/1 · 5 total

Thu, May 28 1 entries
blog local-llm 3w ago · qiita-llm

Pixel WatchでLLMを動かすGoogleのLiteRT-LM──オンデバイスAIの新ランタイム Google's LiteRT-LM runtime enables on-device LLM inference on constrained hardware like Pi…

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Local LLM / Open Models Medium priority · technical post · Local LLM / Open Models 公開 5月28日 Published May 28

AI要約 GoogleがエッジデバイスでLLMを効率実行するランタイム「LiteRT-LM」を公開。Pixel Watch 4のSmart ReplyやChromeの要約などがサーバ不要で動作する。

EN Google's LiteRT-LM runtime enables on-device LLM inference on constrained hardware like Pixel Watch, powering Smart Replies and Chrome summaries locally via Gemma models.

fallback
Tue, May 19 2 entries
blog gemini 1mo ago · google-developers

Google Tensor SDK ベータ版が LiteRT と統合、エッジ AI 開発を加速 Google Tensor SDK Beta with LiteRT

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Gemini / Gemma Medium priority · technical post · Gemini / Gemma 公開 5月19日 Published May 19

AI要約 Google は Tensor SDK のベータ版を LiteRT(旧 TensorFlow Lite)と組み合わせて公開した。開発者はオンデバイス AI モデルをより効率的に構築・展開できるようになり、エッジ推論のパフォーマンス向上が期待される。

EN The Google Tensor ML SDK is graduating to its Beta phase, allowing developers to build and deploy high-performance machine learning models directly onto the TPU of Google Pixel 10 devices. By integrat

Google Tensor SDK Beta with LiteRT og fallback
blog gemini 1mo ago · google-developers

LiteRT-LMでオンデバイスGenAIを超高速化 Blazing fast on-device GenAI with LiteRT-LM

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Gemini / Gemma Medium priority · technical post · Gemini / Gemma 公開 5月19日 Published May 19

AI要約 Google AI EdgeのLiteRT-LMが、モバイル・エッジ環境でGemma 4を高度に最適化して実行するための本番対応インフラを提供。

EN Google AI Edge’s LiteRT-LM provides a production-proven, highly optimized infrastructure for running Gemma 4 across cross-platform mobile and edge environments. It actively unlocks the model's native

Blazing fast on-device GenAI with LiteRT-LM og fallback
Thu, May 14 1 entries
blog gemini 1mo ago · google-developers

ArmとGoogle AI Edgeが進めるオンデバイスAI高速化の最前線 Accelerating on-device AI: A look at Arm and Google AI Edge optimization

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Gemini / Gemma Medium priority · technical post · Gemini / Gemma 公開 5月14日 Published May 14

AI要約 GoogleはArmと連携し、Google AI Edgeスタック上でオンデバイスAI推論を加速する取り組みを進めている。LiteRTやMediaPipeなどを通じ、ArmのCPU/GPU/NPU向け最適化により、モバイル端末でのLLM・生成AI実行を高速化する。

EN Integration of Arm Scalable Matrix Extension 2 (SME2) and the Google AI Edge software stack enables high-performance, on-device generative AI by turning the CPU into a powerful matrix-compute accelera

Accelerating on-device AI: A look at Arm and Google AI Edge optimization og fallback
Thu, Apr 23 1 entries
blog gemini 2mo ago · google-developers

LiteRTとNPUで実現するオンデバイスAIの実装 Building real-world on-device AI with LiteRT and NPU

重要度 Medium Medium priority 重要度 Medium · 技術記事 · Gemini / Gemma Medium priority · technical post · Gemini / Gemma 公開 4月23日 Published Apr 23

AI要約 GoogleはLiteRTにNPUサポートを拡張し、Qualcomm、MediaTek等のチップ上で機械学習モデルを高速かつ省電力で実行可能にした。早期アクセスプログラムを通じて開発者は実機での推論最適化を進められる。

EN LiteRT is a production-ready framework designed to help mobile developers unlock the power of Neural Processing Units (NPUs), overcoming the performance and battery limitations of traditional CPU or G

Building real-world on-device AI with LiteRT and NPU og fallback