ArmとGoogle AI Edgeが進めるオンデバイスAI高速化の最前線 Accelerating on-device AI: A look at Arm and Google AI Edge optimization
重要度 Medium Medium priority 重要度 Medium · 技術記事 · Gemini / Gemma Medium priority · technical post · Gemini / Gemma 公開 5月14日 Published May 14
AI要約 GoogleはArmと連携し、Scalable Matrix Extension 2(SME2)をGoogle AI EdgeスタックやKleidiAIに統合した。CPUを行列演算アクセラレータとして活用し、LiteRTやMediaPipe経由でモバイル端末のLLM・生成AI推論を高速化する。
EN Google and Arm have integrated Arm's Scalable Matrix Extension 2 (SME2) with the Google AI Edge stack and KleidiAI, turning the CPU into a matrix-compute accelerator to speed up on-device LLM and generative AI inference via LiteRT and MediaPipe.
og fallback