#tpu12 total

AI要約GoogleがTPU・GPU・GKE・Cluster DirectorなどAIインフラ全般の最新アップデートをまとめて紹介し、AI Hypercomputerを中心とするスーパーコンピューティング基盤の強化内容を解説している。

AI SUMMARYGoogle summarizes the latest updates across its AI infrastructure stack—including TPUs, GPUs, GKE, and Cluster Director—highlighting enhancements to the AI Hypercomputer supercomputing platform and related orchestration tools.

AI要約Sparse VideoGenは、注意ヘッドを空間・時間方向の疎なマスクへ動的に振り分ける。TPU向けSplash Attentionで空タイルを省き、高解像度動画生成の高速化を可能にする。

AI SUMMARYSparse VideoGen assigns attention heads on the fly to sparse spatial or temporal patterns. TPU-tuned Splash Attention skips empty tiles, speeding diffusion-based creation of high-resolution video.

AI要約MaxTextはJAX/XLAとGoogle Cloud TPUでOLMo 3 7Bをゼロから再現し、全ホールドアウト評価でGPU版と同等の結果と最大57.4%のMFUを達成した。検証でデータローダーの暗記を招く不具合も発見し、大規模学習の移植性と信頼性向上に役立つ。

AI SUMMARYMaxText rebuilt OLMo 3 7B with JAX/XLA on Google Cloud TPUs, equaled the GPU baseline in held-out tests, and hit 57.4% MFU, aiding portable, dependable large-scale training.

AI要約autofinetuneは、TunixとTPUを使い、単一のMarkdown仕様からSFTとGRPOの実験、検証、Gitへの反映を自律化し、研究者によるLoRAランクや学習率、バッチサイズの効率的な最適化を可能にします。

AI SUMMARYautofinetune uses Tunix on TPUs to autonomously run, verify, and commit SFT and GRPO experiments from one Markdown spec, helping researchers optimize LoRA and training settings.

AI要約Google CloudがvLLMにTPUネイティブ対応を追加し、GKEで埋め込みパイプラインを弾力的にスケール可能に。Qwen3-Embedding-8Bなど15K超トークンの大規模コンテキストを処理でき、エンタープライズ向けRAGや検索基盤の構築に役立つ。

AI SUMMARYGoogle Cloud now supports TPU-native inference in vLLM via GKE, enabling scalable embedding pipelines that handle 15K+ token contexts with models such as Qwen3-Embedding-8B, benefiting enterprises building large-scale RAG and semantic search systems.

AI要約HeyGenは180億パラメータ超のビデオ生成モデルAvatar IVをtorchaxとXLAを用いてTrillium（v6e）TPUへ移植し、FSDPとUlyssesシーケンス並列化により1.86倍の高速化を達成。リアルタイムストリーミング品質の向上を目指す開発者や企業に恩恵をもたらす。

AI SUMMARYHeyGen migrated their 18B-parameter Avatar IV model to Trillium (v6e) TPUs using torchax and XLA, achieving a 1.86× throughput gain via FSDP and Ulysses sequence parallelism across an eight-chip mesh, enabling higher-quality real-time avatar video streaming.

AI要約フロンティアAIラボのMirendilがGoogle CloudのAI Hypercomputerを採用し、TPUとNVIDIA GPUを組み合わせてモデルの事前学習・事後学習に活用することが発表された。主要AIラボのGoogle Cloud採用が相次ぐ中、新興スタートアップへの広がりを示す動きとして注目される。

AI SUMMARYFrontier AI startup Mirendil has selected Google Cloud's AI Hypercomputer—combining Google TPUs and NVIDIA GPU infrastructure—to power its model pre-training and post-training workloads, underscoring Google Cloud's growing dominance as the platform of choice for cutting-edge AI labs.

AI要約GoogleはオープンソースのTPUマイクロベンチマークスイートを提供しており、ネットワーク・演算・HBM・ホスト転送・Attentionの各領域で詳細な性能指標を取得しRooflineモデルの構築に活用できる。

AI SUMMARYGoogle's open-source TPU microbenchmark suite lets developers measure granular performance across compute, memory, and attention components, enabling Roofline model analysis to validate and optimize real-world TPU workloads.

AI要約Google TPU 上で Ray Train や Ray Data などの Ray AI ライブラリを活用する方法を解説し、大規模 ML ワークロードの効率的な実行を可能にする実践的な手順を紹介している。

AI SUMMARYThis guide explains how to leverage Ray AI libraries such as Ray Train and Ray Data on Google TPUs, enabling scalable and efficient machine learning workloads with practical implementation steps.

AI要約Google が TPU 上で Ray を実行するための基本的なセットアップ方法と設計思想を解説し、大規模 ML ワークロードを効率化する手順を示した。

AI SUMMARYGoogle details how to set up and run Ray on TPUs, covering foundational architecture and configuration steps that enable scalable ML workloads on Google's custom accelerators.

AI要約GoogleがIronwood TPU上でQwen 3.5-397BのMoEモデルを効率的に動かすための最適化手法を公開。大規模オープンモデルをTPUで本番運用する際の実践的な知見を提供している。

AI SUMMARYGoogle published a detailed systems engineering guide for optimizing the Qwen 3.5-397B MoE model on Ironwood (TPU v7), offering practical techniques that help teams efficiently deploy large open-weight models on TPU infrastructure.

AI要約MaxTextにおけるエラスティックトレーニング機能を紹介し、TPUがトレーニング中に停止しても数秒で復旧できる仕組みを解説。大規模LLM学習の信頼性とコスト効率を大幅に向上させる。

AI SUMMARYMaxText now supports elastic training, letting TPU jobs recover from mid-training failures in seconds and greatly improving fault tolerance for large-scale model training.