#mechanistic-interpretability 3 total

AI要約 アライン済み言語モデルが示す「AIらしい文体」の内部表現上の起源を調査した論文。ポストトレーニングによる特徴的な表現パターンがモデル内のどの層に宿るかを特定し、それを選択的に除去する手法を提案している。

EN arXiv:2605.30526v1 Announce Type: new Abstract: Aligned language models often exhibit a recognizable AI-like style, yet its connection to post-training and internal representations remains poorly unde

AI要約 グラフや表などの構造化知識を線形化してLLMに入力する際にハルシネーションが生じるメカニズムを機械的に分析した研究論文。

EN arXiv:2605.26362v1 Announce Type: new Abstract: In many reasoning tasks, large language models (LLMs) rely on structured external knowledge, such as graphs and tables, which is typically linearized in

AI要約 Anthropicが、Claudeの内部表現を人間の言語に翻訳する解釈可能性研究の動画を公開。モデルが推論中に何を「考えて」いるかを可視化し、AIの透明性と安全性向上を目指す取り組みを紹介している。

原文JA Anthropicが、Claudeの内部表現を人間の言語に翻訳する解釈可能性研究の動画を公開。モデルが推論中に何を「考えて」いるかを可視化し、AIの透明性と安全性向上を目指す取り組みを紹介している。