ノイズの多い選好ラベル下におけるメタデータ不要なメタ再重み付けDirect Preference Optimization Metadata-Free Meta-Reweighted Direct Preference Optimization under Noisy Preference Labels
重要度 Medium Medium priority 重要度 Medium · 論文/研究 · Papers / Benchmarks Medium priority · paper/research · Papers / Benchmarks
AI要約 LLMのRLHFで問題となるノイズ付き選好データに対し、メタデータを使わずサンプルを動的に再重み付けするDPO手法を提案。データ品質への依存を減らしアライメントの堅牢性を向上させる。
EN This paper proposes a meta-reweighting approach for Direct Preference Optimization that dynamically down-weights noisy preference samples without requiring any metadata, improving LLM alignment robustness under label noise.
NO PREVIEW