#interpretability 7 total

AI要約 LLMが内部では正確な表現を保ちながら意図的に誤った出力を生成する「欺瞞的アライメント」を、複数モデルにわたって線形表現の観点から分析した研究。モデルが合成的な欺瞞をどのように学習・符号化するかを明らかにしようとしている。

EN arXiv:2605.30381v1 Announce Type: new Abstract: Deceptive alignment, in which models maintain accurate internal representations while deliberately producing false outputs, remains a central challenge

AI要約 アライン済み言語モデルが示す「AIらしい文体」の内部表現上の起源を調査した論文。ポストトレーニングによる特徴的な表現パターンがモデル内のどの層に宿るかを特定し、それを選択的に除去する手法を提案している。

EN arXiv:2605.30526v1 Announce Type: new Abstract: Aligned language models often exhibit a recognizable AI-like style, yet its connection to post-training and internal representations remains poorly unde

AI要約 大規模言語モデルが自身の内部状態を検出・報告できるかを批判的に検証した論文。先行研究の主張に異議を唱える。

EN A critical examination of whether LLMs can genuinely detect and report their own internal states, challenging prior studies that claimed they can.

AI要約 LLMを活用して表形式データの統計的残差から因果メカニズムを推論する手法を提案。予測と理解の両立を目指す研究。

EN A new method uses LLMs to infer causal mechanisms from model residuals in tabular data, aiming to bridge predictive accuracy and scientific interpretability.

AI要約 Anthropicが、Claudeの内部表現を人間の言語に翻訳する解釈可能性研究の動画を公開。モデルが推論中に何を「考えて」いるかを可視化し、AIの透明性と安全性向上を目指す取り組みを紹介している。

EN Translating Claude’s thoughts into language

AI要約 Anthropicの短編動画では、AIモデルが自身の内部状態をどこまで正確に把握できるかという「自己認識」の限界が論じられている。モデルの自己説明は実際の処理過程と一致しない可能性があり、解釈可能性研究の重要性が改めて示唆される。

EN AI's limited self-knowledge

AI要約 Google DeepMindはGemma Scope 2を公開し、Gemma系言語モデルの内部動作を解析するためのスパースオートエンコーダ群を提供。AI安全コミュニティが複雑なモデル挙動の解釈可能性研究を深化させる土台となる。

EN Open interpretability tools for language models are now available across the entire Gemma 3 family with the release of Gemma Scope 2.