AI要約 SVDによるLLM圧縮で生じる誤差伝播問題に対し、追加ランクを使わずに精度を回復する手法を提案。圧縮に伴う層間の誤差累積を考慮した最適化により、モデルサイズを増やさずに性能劣化を抑える。

EN This article proposes a method to recover accuracy in SVD-compressed LLMs by accounting for error propagation across layers, without adding extra ranks, thereby preserving model size while mitigating performance degradation.