AIは壁をドアと勘違いした——Anthropicが129ドルのドローンで測った「操縦能力」のリアル

「フロンティア（最先端）が到達できる性能は、その性能を"安定して"出せるようになる時点より、およそ6ヶ月先を行っている」——Anthropicが7月24日に公開した研究「Project Pilot」の中で示された、この経験則がとても示唆に富んでいる。今回は、AIモデルにドローンを自律操縦させて「見つけて、追いかける」という単純な任務をこなせるかを検証した、この研究を紹介したい。

なぜ「ドローン」で「監視タスク」なのか

AnthropicのFrontier Red Team（フロンティア・レッドチーム）は、AIモデルが物理世界とどう関わるかを継続的に検証してきたチームだ。以前は「Project Vend」（AIに小さな店舗を運営させる）や「Project Fetch」（ロボット犬にビーチボールを取ってこさせる）といった実験を行っており、今回のProject Pilotはその延長線上にある。

パートナーのAndon Labsと共同で開発した新しいベンチマーク「Drone-Bench」では、屋内オフィス環境でクアッドコプター（4枚羽根のドローン）を操縦し、指定された人物を見つけて追跡する、という課題が設定されている。Anthropic自身が説明している通り、これは「人物の検知・追跡」という、捜索救助や災害対応といった正当な用途にも、監視の濫用というリスクにも転用できる、デュアルユース（軍民両用）技術としての性格を強く持つタスクだ。実験で使われたドローンはDJIの「Tello EDU」、価格はわずか129ドルという、市販の既製品だという点も興味深い。

タスクを5つに分解するという、丁寧な検証設計

この研究で私が特に評価したいのが、検証方法の丁寧さだ。全体の目標（オフィス内で指定人物を見つけて追いかける）を、Andon Labsが5つのサブタスクに分解している。

1. Reconstruct（再構築）：オフィスの映像から3Dモデルを作り、それを2Dの障害物マップに変換する 2. Localize（自己位置推定）：ドローンの現在の映像を、その2Dマップ上のどこにいるかと照合する 3. Navigate（航行）：マップ上で部屋から部屋への経路を計画し、飛行しながら継続的にLocalizeを呼び出して位置を補正する 4. Detect（検知）：参照写真をもとに、映像から対象人物を検出し、バウンディングボックス（囲み枠）を返す 5. Follow（追跡）：そのバウンディングボックスを使い、対象を画角の中心に保ちながら追いかける

これらは個別に見れば既知のアルゴリズムがある課題だが、AIモデルがこれらの課題を理解し、既存の解決策を選び出し、自分の状況に適応させ、リアルタイムで一連の作業として実行できるかどうかは、まったく別の難易度になる。それぞれのサブタスクをソフトウェア上で再現し、繰り返し高速にテストできるようにした点も、以前の「完全に物理的な実験だった」Project Fetchからの改善点だという。

「検知・追跡はできる、しかし空間再構築でつまずく」

15種類のモデル（GPT-4oからGemini 3.1 Pro、Claude Fable 5、GPT-5.6 Solまで）を比較した結果、明確な傾向が見えている。新しいモデルほど、すべてのサブタスクで着実に進歩している一方、「検知」と「追跡」は既に高い成功率に達しているのに対し、「再構築」と「自己位置推定」は依然として大きく遅れているという。

最高性能を示したClaude Fable 5は、再構築を除く全タスクで、Andon Labsが人間とAIのチームで作った基準性能を上回った。しかし、実際のドローンでエンドツーエンドの実演をさせたところ、再構築の誤差が航行の段階で複利的に積み重なり、部屋から部屋への自律移動ができなかったという。公開されている映像では、Fable 5が自信満々にドアだと思って壁に向かって飛んでいく様子まで記録されている。派手な失敗のようで、実はこれは「あと一つのピースさえ埋まれば、全体の性能が一気に実用域に届く」という、進捗の中身を正確に示す興味深い結果だ。

「6ヶ月遅れの一貫性」という、実務的に重い指標

今回の研究で私が最も重要だと思うのが、「ベストな一回の成功」と「平均的に安定して出せる成功」の間には、常に一定の時間差があるという観察だ。Fable 5は現在、5つのサブタスクのうち平均で3つしか人間基準に到達できていないが、この「平均での到達」自体が、以前のモデルが「一回限りの最高性能」として初めて基準を超えてから、およそ6ヶ月後に実現している、という。

これはAIエージェント開発全般に適用できる、実務的にかなり重要な観察だと思う。あるモデルが「一度だけ」何かを達成したというデモを見たとき、それが「安定して再現できる能力」になるまでには、相応の時間差があると見積もっておくべきだ、という教訓だ。

Fable 5が見せた、地道な「自己検証」の工夫

技術的に面白いのが、Fable 5が提出物を作る過程で、ローカルでの自己分析を行っていたという観察だ。あるケースでは、床の目地線（グラウトライン）から消失点を推定し、シミュレーション映像を分析することで、ドローンのカメラの傾き角度を実際の値から4度以内の誤差で推定していたという。別のケースでは、Followタスクの環境について、自分なりの2次元の俯瞰再構築図を作り、提出前にローカルでバグを見つけて修正していた。実際の環境とは異なる簡易的な再現図であっても、明らかなバグを事前に潰すのに役立っていた、という報告だ。こうした「本番投入前の自己検証」という振る舞いは、単なるベンチマークスコア以上に、モデルの推論プロセスの成熟度を示す観察として興味深い。

研究自体が明記する限界

Anthropic自身がこの実験の限界を率直に述べている点も評価したい。ドローンは低速でしか飛行しておらず、テストは1つのオフィスフロアプランに限定され、対象人物の数も限られていた。屋外での、大勢の人混みの中での検証も行われていない。それでも、モデルの能力の方向性について「実質的なシグナル」を与えるものだ、という位置づけを明確にしている。

「人間の監督をコストと見なす圧力」への警鐘

この研究の締めくくりで指摘されている論点も重要だ。エージェント型コーディングの初期には、人間がほぼすべてのツール呼び出しを承認していたが、わずか数ヶ月で、モデルはより長時間のタスクを最小限の介入で実行することが信頼されるようになった。Anthropicは、ロボット制御においても同様の力学が働くと警告している。モデルが能力・信頼性の閾値を超えた瞬間から、人間の監督を「安全策」ではなく「コスト」として扱おうとする圧力が強まる、という指摘だ。だからこそ、その閾値に到達する前に、こうした計測と、人間の関与のあり方についての意図的な意思決定を済ませておくことが重要だ、というのがこの研究の存在意義になっている。

研究者として思うこと

派手な「AIがドローンを飛ばせた」という見出しだけを見ると本質を見失う。この研究の価値は、タスクを構成要素に分解し、どこが本当のボトルネックなのかを特定したという、地道な検証設計そのものにある。「検知・追跡はもう専用アルゴニズム並み、残る課題は空間再構築という1ピースに集約されている」という結論は、次にこの分野で何を測定すべきかを明確に示している。物理世界へのAIの浸透が、こうした一つひとつの地道な検証を積み重ねながら進んでいく様子を、引き続き追いかけていきたい。