「LLMは推論しているとき、何をしているのか」——ICML 2026が明かした強化学習と思考の構造
今年のICMLは例年以上に熱を帯びた学会だった。中でも強化学習(RL)とLLMの推論能力に関する論文群が際立っており、研究者の間で「RLがLLMをどう変えるか」という問いが主要なテーマとして浮上している。複数の独立した研究が、互いを参照しながら同じ方向の答えに収束しつつあるように見える。
LLMの推論に「階層構造」が自然発生する
VectorインスティテュートがICLR 2026で発表した「Emergent Hierarchical Reasoning in LLMs through Reinforcement Learning」は、RLによる学習がLLMの内部でどんな変化をもたらすかを精密に分析した論文だ。
結論から言うと、RLで訓練されたLLMの推論プロセスには、人間の認知に似た二層構造が自然発生するという。第一相では「手続きの正確さ」に縛られた状態でモデルは動いており、正しい手順を踏もうとするが柔軟性に乏しい。やがて訓練が進むと第二相に移行し、高レベルの戦略的計画と低レベルの手続き実行が分離し始める。
人間でいえば、初心者が一手一手を意識的に確認しながら将棋を指す状態から、上級者が局面を大局観で捉えつつ指し手の計算を並列的にこなす状態への移行に似ている。「aha momentが起きるとき、それは実はこの二相転移のタイミングだ」という主張は、これまで現象として観察されていたものに構造的な説明を与える試みとして注目に値する。
「検証器がなくてもRLは機能する」という発見
Together AIがICML 2026に提出したRAROは、より挑発的な問いを立てている——「RLによる推論強化は、答えの正誤を検証できるタスクにしか使えないのか?」
従来の強化学習ベースの推論訓練(RLVR: Reinforcement Learning with Verifiable Rewards)は、数学や論理パズルのような「答えの正解を自動判定できるタスク」でしか機能しないとされてきた。詩の評価や金融分析のような主観的タスクには適用が難しく、それがRLによる推論強化の活用範囲を制限していた。
RAROの解法はエレガントだ。外部の検証器を使う代わりに、モデル自身を「ポリシー(回答を生成する側)」と「相対的な批評家(どちらの回答が優れているか判定する側)」の二役に使う対抗ゲームとして訓練する。ペアワイズ比較にタイオプションを加えることで訓練の安定性を担保しつつ、検証不可能なタスクでも専門家回答に対して25%の勝率を達成した——教師ありファインチューニング(5.9%)と比べて顕著な改善だ。
「検証器なしでもRLの恩恵を受けられる」という結果は、RL適用範囲の大幅な拡張を示唆する。
クレジット割り当て問題への新しいアプローチ
マルチターンの対話タスクにRLを適用するときの根本的な難しさのひとつがクレジット割り当て問題だ。エージェントが最終的に成功・失敗したとき、どの中間ステップが実際に有効だったかを遡って評価するのは非常に難しい。
atoms.devのチームがICML 2026で発表したInfoPOはこの問題に正面から取り組んでいる。ターン単位の「反事実的情報利得」を報酬として使う。具体的には、あるターンのやり取りがなかった場合と比べてエージェントの次の行動分布がどう変わったかを測定し、「そのターンが情報として意味を持っていたか」を定量化する。
この情報利得シグナルを最終タスク成功の報酬と適応的に組み合わせることで、エージェントは「途中で役に立ったかどうか」を学習できる。長い会話の途中でユーザーの意図を正しく把握した一手が、最終成功に貢献したとして適切に評価される仕組みだ。
これらの論文が示す「ひとつの方向性」
表面的には別々のテーマを扱っているように見えるが、これら三本の論文には共通した視座がある——RLはLLMの推論を「量的に上昇させる」というより「質的に組み替える」ということだ。
階層構造の自然発生は、RLがモデルの内部表現を再構成することを示す。RAROは、適切な訓練設計によってRLが検証器の外側にある能力を引き出せることを示す。InfoPOは、報酬シグナルの粒度を細かくすることで長期タスクでの学習が安定することを示す。
どれも「RLをかければモデルが賢くなる」という単純な話ではなく、「どういう問題構造に、どういうRLのかけ方をすれば、どういう能力が引き出されるか」を問うている。研究が成熟しつつあるサインと見ていい。
まとめ
ICML 2026のRL×LLM推論研究は、2024〜2025年の「とにかくRLを適用してみる」フェーズから、「RLが引き起こす内部変化を理解し、意図的に設計する」フェーズへの移行を告げているように見える。Vector/Together AI/atoms.devという異なる組織が互いに独立して到達した知見が、大きな流れとして重なってきた——これはひとつの収束だ。RLとLLMの交差点は、今年後半もアクティブな研究フロンティアであり続けるだろう。