paper research 2w ago · 
arxiv-cs-lg
一般化レイリー商最適化による基盤モデルの能力保持型ファインチューニング Foundation-Preserving Adaptation via Generalized Rayleigh-Quotient Optimization
重要度 Medium Medium priority 重要度 Medium · 論文/研究 · Papers / Benchmarks Medium priority · paper/research · Papers / Benchmarks 公開 6月2日 Published Jun 2
AI要約 基盤モデルをファインチューニングすると事前学習で獲得した汎用能力が損なわれる問題に対し、一般化レイリー商最適化を用いて下流タスクへの適応と基盤能力の保持を両立する手法を提案した研究。
EN arXiv:2606.00132v1 Announce Type: new Abstract: While finetuning effectively adapts foundation models to specialized downstream tasks, it can degrade nontarget capabilities acquired during pretraining
og fallback