#post-training 3 total

AI要約 複数段階のポストトレーニングを順番に適用すると、LLMの内部表現が崩壊する現象を分析した論文。単一の命令チューニングでは見られないこの問題のメカニズムと対策を論じている。

EN arXiv:2605.30524v1 Announce Type: new Abstract: Large language models are now adapted through chains of post-training stages rather than through a single instruction-tuning pass. This paper studies wh

AI要約 GoogleはMaxTextを拡張し、シングルホストTPU上で教師ありファインチューニング(SFT)と強化学習(RL)によるポストトレーニングを可能にした。Tunixと統合し、Gemma等のオープンモデルを少ないリソースで効率的にカスタマイズできる。

EN Google has extended MaxText with post-training support, enabling supervised fine-tuning (SFT) and reinforcement learning (RL) workflows on single-host TPUs through integration with the Tunix library, making it easier to customize open models like Gemma.

AI要約 Hugging FaceがLLMポストトレーニング用ライブラリTRLのv1.0を公開。SFT/DPO/GRPOなど主要手法を統合し、APIの安定化、vLLM連携、マルチノード分散学習、VLM対応強化など、実運用に耐える成熟版に到達した。

原文JA Hugging FaceがLLMポストトレーニング用ライブラリTRLのv1.0を公開。SFT/DPO/GRPOなど主要手法を統合し、APIの安定化、vLLM連携、マルチノード分散学習、VLM対応強化など、実運用に耐える成熟版に到達した。