AIが「幻覚を見ないように」自分を縛った——物理学の未解決問題に挑んだ自律研究エージェントの工夫
以前このコラムで、Sakana AIらの「The AI Scientist」がNature誌に掲載され、生成論文がICLRワークショップの査読を通過した話を紹介した。あれは機械学習分野の話だったが、今回紹介する論文は、もっと厄介な領域——先端の物理学に、自律研究エージェントを挑ませた研究だ。7月2日にarXivに公開された、Haonan Huang氏による単著論文「Grounded autonomous research(グラウンデッドな自律研究)」を見ていきたい。
なぜ物理学は「機械学習のサンドボックス」より難しいのか
この論文がまず丁寧に指摘しているのは、これまでのAI自律研究エージェントが実証してきた領域と、物理科学の間にある本質的な違いだ。機械学習の実験(コードを書いて実行し、精度を測る)は、実行結果そのものが正誤の判定基準(キャリブレーション)になる。コードが動けば数字が出るし、その数字自体が「正しさ」の証拠になりうる。
しかし最先端の物理学はそうはいかない。あらゆる方法論の選択の背後に物理的な推論が必要で、使用するツールチェーン自体が十分に文書化されていないことも多く、何より成果の妥当性を検証する基準は、外部の文献にしかない。この論文はここに、既存の自律エージェントが抱える危険な弱点があると指摘する。既存のエージェントは外部文献を引用こそすれ、その内容と自分の出した結果を実際に突き合わせて検証すること(confront)はしないため、もっともらしいが検証不能な結果を、AIモデル内部の知識だけから「幻覚(ハルシネーション)」してしまう、という問題だ。
11,083本の論文から、自分でテーマを選ばせる
このパイプラインがやったことを整理すると、以下のようになる。対象としたのは「アルターマグネティズム(altermagnetism)」という、比較的新しい磁性の分類に関する凝縮系物理学の分野だ。
1. 直近の凝縮系物理学のarXiv論文11,083本のコーパスを、エージェント自身がマッピングして研究の方向性を自律的に構想する 2. 既発表論文の数値結果を実際に再現することで、自分が使う計算手法(メソドロジー)を較正(キャリブレーション)する 3. その較正済みの手法を使って、誰も出していない新規の第一原理計算を実行する 4. 得られた結果をもとに、論文の草稿を執筆する
ここで面白いのが、テーマ選定のプロセスだ。エージェントは最終的に5つの候補テーマの中から「アルターマグネティック・ピエゾマグネティズム(altermagnetic piezomagnetism、圧力によって磁化が生じる現象のアルターマグネット版)」という一つのテーマに絞り込んでいる。事後的な独立レビューによれば、この選択は理にかなっていたという。候補に挙がった他の4テーマは、新しい手法開発が必要だったり、対象システムに対してまだ十分検証されていない若いツールチェーンに依存していたり、既存研究によって新規性の範囲が限定されていたりした一方、選ばれたピエゾマグネティズムだけは、目標とする観測量に対して3本もの独立した既発表論文が数値的な参照先として存在していたという。
この「参照できる先行研究があるかどうか」でテーマを選ぶという判断が、この論文の核心的な工夫だ。もし検証不能なテーマに突っ込んでいたら、パイプライン自体が自分の出力の正しさを採点できなくなる——つまり「トピック選定の段階でのグラウンディング(接地)」こそが、実行段階でのグラウンディングの前提条件になる、という指摘は、AI研究者としてなるほどと思わされた。
47回の「まっさらな記憶」でリレーする、地道な設計
パイプラインの規模感にも触れておきたい。全体は6つのフェーズに分かれ、47回のフレッシュコンテキストセッション(つまり過去の会話履歴を持たない、まっさらな状態から始まるセッション)で構成されている。各セッションはディスク上に保存された状態だけを共有しながらリレー形式で進み、文献を参照するイベントは合計2,162回にのぼったという。
長いコンテキストを一つのセッションで引きずり続けるのではなく、あえて記憶を持たない状態のセッションを何十回も繋いでいく、という設計は、LLMエージェントの実務でしばしば問題になる「コンテキストが長くなるほど推論が劣化する」現象への対策として理にかなっている。むしろ地味で泥臭いこの設計判断にこそ、著者の実践知が滲んでいるように思う。
「発見」というより「信頼できる足場づくり」
この論文が最終的に主張しているのは、派手な「AIが新発見をした」という話ではなく、物理科学のように検証コストの高い領域で、AIエージェントに研究を任せる際の安全な足場をどう作るか、という設計論だ。
前回紹介した「The AI Scientist」は、機械学習分野という比較的検証しやすい土俵で、実際にワークショップの査読を通過するところまで実証してみせた。今回のHuang氏の論文は、その一歩先——物理的推論が本質的に必要な、より検証の難しい領域でも、外部文献との「対決」を仕組みに組み込むことで、幻覚を抑えながら自律的に研究を進められる可能性を示している。単著論文であり、まだ査読を経た正式発表ではない点、そして単一の物理現象を対象にした事例研究である点は、結果を一般化する上で慎重に受け止める必要がある。
AI研究者として気になること
正直に言うと、この論文で一番興味深いのは、技術的な新規性そのものよりも、「AIに何を検証させないか」を人間があらかじめ設計するという発想だ。5つの候補テーマのうち4つを、参照可能な先行研究がないという理由で切り捨てたという判断は、一見保守的に見えるが、自律エージェントの信頼性を担保する上では本質的な安全策だと思う。
AIによる科学研究の自動化というテーマは、2026年に入ってさまざまな角度から実証が進んでいる。今回のような「検証可能性を担保するための地道な設計」の積み重ねが、この分野が単なる話題性を超えて、実際に信頼できる科学的手法として定着していくかどうかを左右するのではないか。今後、この手法が他の物理分野やテーマにどこまで一般化できるのか、続報を追いたい。