安全な応答が重要：MLLMsにおける過剰拒否を軽減する出力認識型セーフティガードレールSafe responses matter: Output-aware safety guardrail mitigate over-refusal in MLLMs

arXiv cs.LG論文Paperarxiv.org公開Published2026/07/14 13:00 JST2mo ago重要度 MediumImportance Medium priority

AI2 点サマリ2 key points

マルチモーダル大規模言語モデルが安全なリクエストまで拒否しすぎる「過剰拒否」問題に対し、出力内容を考慮したガードレール手法を提案。
有害コンテンツを防ぎつつ正当な要求への応答精度を向上させる。

This paper proposes an output-aware safety guardrail for multimodal LLMs that reduces over-refusal by evaluating the model's generated response, not just the input.
This improves usability without compromising safety.

本ページの要約は AI による自動生成です。日本語版と英語版は言語ごとに独立して生成されるため、表現や詳しさが異なる場合があります。正確性は元記事 (arxiv.org) をご確認ください。The summaries are AI-generated independently for each language, so wording and detail may differ. Verify accuracy at the original source (arxiv.org).

記事情報・収集記録Article details & collection record

出典Source: arXiv cs.LG論文Paper
公開日時 (JST)Published (JST): 2026/07/14 13:00
収集日時 (JST)Collected (JST): 2026/07/15 10:17
配信形式Format: 論文Paper
原文言語Source language: EN
重要度の位置づけImportance in this lane: MediumMedium priority(arXiv 80件中、同等以上 80件)(80 of 80 arXiv entries are equal or higher)
出典の平均重要度（掲載直近 20 件・最大 30 件）Source average (last 20 listed, up to 30): 2.0 / 31=情報 · 2=中 · 3=高1=Info · 2=Medium · 3=High
情報の寿命Half-life: 長期 (アーキテクチャ)Long-term (architecture)

📄arXiv の他の記事More from arXivもっと見る →View more →