大規模言語モデル（LLM）が計算を行う際の内部メカニズムについて、Anthropic社が公開したClaude 3.5 Haikuの解釈可能性研究「Tracing the thoughts of a large language model」を基に解説した記事です。LLMは数字を数式ではなくトークンの並びとして認識し、学習データに基づいた統計的パターンで次に出力すべき数値を導き出します。具体的には、30代+50代なら答えはこの範囲という「大まかな見積もり」と、末尾の計算のみに特化した「精密計算」の2つの経路が内部で並列に走り、それらが組み合わさって最終回答が生成されます。モデルが自己説明する計算プロセス（筆算など）と実際の内部挙動が乖離している点も指摘されており、AIの思考プロセスを理解する上での重要な知見が示されています。