AI要約 Transformerにおける可観測性(内部状態の推定可能性)がアーキテクチャ設計によって決まることを示した研究。モデル構造の選択が解釈可能性や状態推定能力に直接影響することを理論的に分析している。

EN This paper investigates how architectural choices in Transformer models directly determine their observability, i.e., the ability to infer internal states from outputs, with implications for interpretability and state estimation.