LLMが構造化知識でハルシネーションを起こす理由：線形化表現上の推論メカニズム分析 Why LLMs Hallucinate on Structured Knowledge: A Mechanistic Analysis of Reasoning over Linearized Representations
グラフや表などの構造化知識を線形化してLLMに入力する際にハルシネーションが生じるメカニズムを機械的に分析した研究論文。
English summary
- arXiv:2605.26362v1 Announce Type: new Abstract: In many reasoning tasks, large language models (LLMs) rely on structured external knowledge, such as graphs and tables, which is typically linearized in
大規模言語モデル（LLM）は推論タスクでグラフや表などの構造化外部知識を活用するが、通常これらはテキスト列として線形化されてモデルに渡される。本論文（arXiv:2605.26362）は、この線形化プロセスがハルシネーションを引き起こすメカニズムを機械的に掘り下げて分析している。
構造化データが持つ本来の関係性や階層性は線形化によって失われやすく、モデルがその情報を正確に再構成・推論できない場合がある。研究では具体的にどの表現上の問題が誤りを誘発するかを特定しようとしていると推測される。詳細な実験設定や結論については原論文を直接確認することを推奨する。
Large language models frequently rely on structured external knowledge—graphs, tables, and similar formats—when tackling complex reasoning tasks. Because these models operate on token sequences, structured data must first be linearized into text, a transformation that may strip away relational and hierarchical cues the model needs to reason correctly.
This paper (arXiv:2605.26362) provides a mechanistic analysis of how and why that linearization step contributes to hallucinations. By examining the internal reasoning processes of LLMs over linearized representations, the authors aim to identify specific failure modes rather than simply observing that errors occur.
The findings could inform better prompting strategies, serialization formats, or architectural choices for grounding LLMs in structured knowledge. Specific experimental details, benchmarks, and conclusions should be verified directly in the full paper.
本ページの本文・要約は AI による自動生成です。正確性は元記事 (arxiv.org) をご確認ください。