7月7日版 — The Trend Tribune

【山本浪漫】2026年7月7日

「拒否するな、考えろ」——安全性アライメント研究が「丸暗記」から「推論」へ転換した

LLMの安全性アライメントに、大きな方向転換が起きている。ここ数週間でarXivに登場した複数の論文が、同じ問題意識から独立に発展した解法を提示している。その問題意識とは——「今の安全性訓練は、モデルが本当に安全性を理解しているのではなく、特定のパターンを拒否するよう記憶させているだけではないか」というものだ。

「拒否ショートカット」という問題

現在広く使われているRLHF（人間からのフィードバックを用いた強化学習）やDPO（直接選好最適化）による安全性訓練の弱点として、「refusal shortcut（拒否ショートカット）」と呼ばれる現象が指摘されている。

モデルが危険なクエリに対して拒否を学習する際、本来なら「なぜこれが有害なのか」という原理を理解した上で判断してほしいところが、実際には表面的なパターンマッチングで学習してしまうケースが多い。「爆発物の作り方を教えて」には拒否できても、同じ内容を別の言い回しにすると通ってしまう——これは原理理解ではなくパターン記憶の典型だ。

加えて、過剰拒否（over-refusal）の問題もある。「医薬品の副作用について教えて」といった正当な質問まで拒否してしまい、有用性が大きく損なわれる。安全性を厳しくするほどユーティリティが下がる、というトレードオフが長年の課題だった。

AlphaAlignの解法：「教師なしRLで安全推論を引き出す」

<cite index="14-1">AlphaAlign（arXiv:2507.14987）は、監督ありのsafety推論データを一切使わず、純粋なRLだけでモデルに安全性の推論能力を発達させることを試みる。</cite>

仕組みの核心は「デュアル報酬」にある。有害なクエリに対しては「拒否すること」だけでなく「拒否の理由を明示的に説明すること」を正の報酬とし、正当なクエリへの過剰拒否には負の報酬を与える。有益なクエリに対しては正規化された有用性報酬を別に与えることで、安全性と有用性を単一の報酬フレームワークの中に同時に収める。

エンジニアリング的に注目したいのは「監督なし」という点だ。SFT（Supervised Fine-Tuning）のコールドスタートを使わず、ベースモデルから直接RLをかける。ラベル付きの安全推論データを大量に用意する必要がなく、報酬設計だけで安全な推論を引き出せるならコストメリットは大きい。

RSafeの解法：「ポリシーを読んでから推論する」

RSafe（arXiv:2506.07736）は別の角度からアプローチする。<cite index="16-1">モデルに安全ポリシーをプロンプトとして渡し、そのポリシーを参照しながらステップバイステップで安全リスクを推論した後に最終判断を下すという「ガイド付き推論」を行い、その推論パターンをRLでさらに強化する。</cite>

ゼロショットRLセットアップ（SFTコールドスタックなし）で報酬を直接最終出力に適用するという点はAlphaAlignと共通しているが、「ポリシー文書を読む」というステップが明示的にある点が特徴だ。安全ポリシーが更新された場合にプロンプトを差し替えるだけで挙動を変えられる柔軟性がある。

エージェント向けの安全アライメント

さらに興味深いのはAgent Safety Alignment via Reinforcement Learning（arXiv:2507.08270）だ。<cite index="19-1">ツール使用エージェント向けの統合安全アライメントフレームワークとして、構造化推論とサンドボックス化されたRLを組み合わせた初の試みとして提案されている。</cite>

単一ターンのQAとは異なり、エージェントが外部ツール（コード実行、Web検索、ファイル操作等）を呼び出すシナリオでは安全性の問題が質的に変わる。ユーザーからの直接的な有害リクエストだけでなく、間接的なプロンプトインジェクション（外部コンテンツに埋め込まれた悪意ある指示）への対処が必要になる。

Claude CodeのようなコーディングエージェントやMCP経由でファイルシステムを触るエージェントが実用化される中で、エージェント固有の安全問題はアカデミアでもようやく本格的に扱われ始めた。

三本の論文が指す方向

アプローチは異なるが、三本の論文はひとつの大きな方向性を指している——安全性を「何を拒否するかのルール」として外から課すのではなく、「なぜ有害なのかを推論する能力」としてモデル内部に育てる、という転換だ。

この転換は実用上も重要な意味を持つ。パターンマッチング的な安全性訓練は敵対的な言い回しに脆弱で、ジェイルブレイクに対して根本的に弱い。推論ベースの安全性は、新しい有害パターンに対しても汎化できる可能性がある。

一方で、「なぜ有害か」の推論自体を操作する新しい攻撃手法が出てくる可能性も否定できない。安全性と能力の軍拡競争は、訓練手法が高度化するにつれてより精緻な形で続いていく。

まとめ

安全性アライメントの研究フロンティアは今、「丸暗記から推論へ」という転換点にある。AlphaAlign、RSafe、Agent Safety Alignmentという三本の独立した論文が、それぞれ異なる実装で同じ方向性を示した今週は、その転換が確かなトレンドになりつつあることを示している。LLMが「理解して断る」能力を持つようになるとき、安全性とユーティリティのトレードオフはどう変わるか——この問いへの実験的な答えが、今年後半に出てくるだろう。

参考：arxiv.org／arxiv.org／arxiv.org

論文AI/ML安全性アライメント強化学習LLMarXiv

「AIトークン代、誰が払うのか」——Teslaの$200キャップとUberの$34億消失が示す次の現実

【田中テック】

▶ 本日付でTeslaが全社員のAIトークン利用を週$200に制限。UberがClaude Codeで$34億を4ヶ月で溶かした教訓、NVIDIAのGPU収益シェアモデル、MicrosoftのFrontier Company設立——AIコスト管理が企業の現実問題になってきた。

「AIトークン代、誰が払うのか」——Teslaの$200キャップとUberの$34億消失が示す次の現実

本日付でTeslaが全社員のAIトークン利用に週$200の上限を設けた。マネージャー承認なしでそれを超えることはできない。

一方、Uberは以前、Claude Codeを約5,000人のエンジニアにガードレールなしで展開して$34億（約5,000億円）のAI予算をわずか4ヶ月で使い果たした。この数字は先週、MicrosoftのSatya Nadella自身がWSJのインタビューで引き合いに出している。

AIが「使えるかどうか」という段階を超えて「コストをどう管理するか」という段階に入ってきた。エンジニアにとって、これは他人事ではない。

Uberの$34億は何が起きたのか

$34億というのは感覚がつかみにくい数字だが、シンプルに分解するとわかりやすい。5,000人のエンジニアが4ヶ月間使い続けたとすると、1人あたり月17万ドル相当のトークンを消費した計算になる。

Claude Codeのような強力なコーディングエージェントは、コードを1行書くたびに大量のコンテキストをモデルに流し込む。ファイルを横断してリファクタリングを依頼すれば、何万トークンもあっという間に消える。フラットレートで使い放題にしてしまえば、組織全体のコストが青天井になる。

GitHubがCopilotを従量課金に移行した背景もここにある。月額定額のフラットレートモデルは、ヘビーユーザーが多い企業では使えば使うほど赤字になる構造だった。

Teslaの$200/週は「現実的な数字」か

週$200というのは、開発者が実際に1日どれくらいAIを使うかで見えてくる。

Cursorのようなコーディングエージェントをフル活用するエンジニアは、1日あたり数百万トークン前後を消費することがある。GPT-4o相当のAPIを直接叩いた場合、入力が$2.50/百万トークン、出力が$10/百万トークンの水準なので、エージェントワークフロー込みで積極的に使えば1日$5〜15程度かかる。週5日換算で$25〜75。$200/週はその2〜8倍の余裕があり、一般的なエンジニアには十分だろう。

ただし、コードベース全体を丸ごとコンテキストに入れて複雑なリファクタリングをかけたり、大規模なテストスイートを自動生成したりするユースケースでは簡単に超える。「週$200で足りないエンジニアは、マネージャーにユースケースを説明してください」——これはコスト管理であると同時に、AIをどう使っているかの可視化でもある。

NVIDIAが始めた「GPUの割賦販売」

同じ流れの中で、NVIDIAが面白い動きをしている。AIクラウドプロバイダーがGPUを購入する際、全額前払いではなく収益シェアとクレジットサポート構造で調達できるようにする仕組みを展開し始めた。

大量のGPUを一括購入するキャッシュがないAIスタートアップでも、NVIDIAのGPU上で収益が出てきたらそこからNVIDIAに支払っていく形だ。ハードウェアの販売からインフラファイナンスへ——これはNVIDIAが単なるチップメーカーの枠を超えて、AIエコシステム全体の資金循環を設計し始めているサインだと見ている。

Microsoft Frontier Companyの狙い

$25億の資本と6,000人の専門家チームで立ち上がったMicrosoft Frontier Companyは、エンタープライズ顧客に「AI導入後の運用まで一緒に面倒を見る」部隊だ。

これはAmazon、Anthropic、OpenAIが各社似たようなフォワードデプロイドエンジニアリング組織を作っている動きと平行している。共通しているのは「AIを入れたはいいが、実際に使えるように運用するのは難しい」という顧客の現実だ。

コスト管理、データの整備、プロンプトエンジニアリング、既存システムとの接続——これらはすべて「AIがあれば解決する」ものではなく、人手がかかる。その部分に専門組織を置いてマネージドサービスにする、という戦略だ。

エンジニアとして今考えておくべきこと

Uberの事例が業界に与えた教訓は明確だ。「AIツールをエンジニアに与えれば自律的に生産性が上がる」という期待は一面では正しいが、コストのガバナンスなしに全社展開すれば財務的なリスクになる。

個人レベルでは、「自分が週にどれくらいのトークンを使っているか」を意識するエンジニアはまだ少ない。だが、企業がキャップを設け始めた今、自分のAI利用を定量的に説明できることが、近いうちにプロフェッショナルスキルのひとつになるかもしれない。

今日からTeslaのAIキャップが適用される。その$200という数字が多いか少ないかは、使い方次第だ。

参考：unrot.co／techstartups.com

AI/MLスタートアップクラウドインフラTeslaNVIDIAMicrosoft

ヒューマノイドが「研究所の外」で動き始めた——1,250時間のBMW実稼働と羽田空港3年契約が示すもの

【高橋呂牡】

▶ Figure 03がBMWで量産投入決定（Figure 02の1,250時間実稼働データを受けて）、JALが羽田空港でUnitreeベースのヒューマノイドを3年間業務委託、BotQは週55台ペース、HyundaiがAtlasのBoard承認完了。「デモ」から「量産と実運用データの蓄積」へ転換した週を高橋呂牡が読み解く。

ヒューマノイドが「研究所の外」で動き始めた——1,250時間のBMW実稼働と羽田空港3年契約が示すもの

「ヒューマノイドがすごい」というニュースは毎週のように出てくるが、デモ映像と実稼働の間には深い溝がある。今週はその溝を越えたことを示すデータが複数出てきた。

BMWでの1,250時間が意味すること

Figure AIがBMWのSpartanburg工場でFigure 02を動かし続けて約11ヶ月。先週公開されたデータによると、<cite index="18-1">2台のロボットが合計約1,250時間の実稼働時間を積み上げ、BMW X3を3万台以上生産する工程で9万枚以上のシートメタル部品を溶接冶具に投入した。精度は5mm以内、サイクルタイム2秒以内。</cite>

ソフト屋の自分がここで注目したいのは「時間数」ではなく「継続稼働」という事実だ。ロボットをデモで10分動かすのと、工場の本番ラインで毎日10時間×週5日を11ヶ月動かし続けるのは、エンジニアリング的に全く別の問題だ。

エッジケースの処理、センサーのドリフト、予期しない物体との干渉、ファームウェアのロールアウト、機械学習モデルの定期的な再学習——こういう泥臭い運用の実績が積み上がってきた。<cite index="16-1">BMWはこの結果を受けてFigure 03の投入を決定した。</cite>「追加発注」という事実が全てを語っている。

時速1台という数字のリアリティ

<cite index="12-1">Figure AIのBotQファクトリーは現在、週55台以上のペースでFigure 03を生産している。</cite>これは1時間に1台強のペースだ。

製造業出身の読者なら直感的にわかると思うが、ロボットを「時間1台」のペースで量産するには、部品の調達ラインから組み立て冶具、品質検査工程、ソフトウェアのフラッシュとキャリブレーションまで、全部がそのタクトタイムに合わせて設計されていなければならない。設計段階でできていても実際に回すまでが本番で、初期はバッファだらけになる。週55台というのは「いちおう回っている」状態として素直に評価していい。

ただし、中国側との比較で面白い数字がある。<cite index="17-1">北京のLingyi iTechは2030年までに年産50万台を目標としており、現在の$30,000の価格は量産規模が拡大すれば半額になりうるとしている。</cite>これは現時点では計画値で、実態は「300台生産した」という話で、スケールアップのロードマップがそのまま信じられるかは慎重に見ている。数が出てから評価したい。

羽田空港の3年契約が面白い理由

<cite index="18-1">JALは2026年5月からGMO AI & Roboticsと組んでUnitreeベースのヒューマノイドを羽田空港に投入し、手荷物の積み込み・コンテナ搬送・機内清掃を担わせている。台数は2台、単価約$15,400。期間は3年間の業務委託。</cite>

金額が面白い。1台$15,400というのはUnitree G1の市場価格帯に近く、高校の部活でも買えるレンジだ。3年間の業務委託というのは、一時的なPOCではなく「運用として計算に入れた」ということを意味する。

技術的に見ると空港の方が工場より難しい面がある。床の材質が場所によって変わる、人が予測不能な動きをする、カウンターの高さが統一されていない——人間のために作られた空間に入るので、完全に固定された製造ライン内より環境の多様性が高い。そこで3年契約を結べたのは、Unitreeの実績評価と関係者の覚悟の両方を示している。

Hyundaiのワールドカップ登場と本当の狙い

<cite index="15-1">HyundaiがFIFAワールドカップ2026でAtlasを披露した。</cite>スポーツの世界的な舞台でロボットを見せるのはマーケティングの側面が強いが、Hyundaiにとって意味があるのは別のところだ。

<cite index="13-1">Hyundai Motor、Kia、Mobis、GlovisのすべてがAtlasの取得に関するBoard承認を通しており、7月20日のSoftBankプットオプション行使期限に向けてBoston Dynamicsの完全子会社化が進んでいる。</cite>Hyundaiは自社の自動車工場にAtlasを投入することを前提に動いており、ワールドカップはその「準備ができている」というシグナルだ。

ロボットが実際に自社工場で動き始めれば、Hyundaiは「作る側」から「使う側」にもなる。自動車メーカーがヒューマノイドの最大ユーザーになるという構図は、数年前には予測していた人も少なかった。

まとめ——「量産」と「実稼働データ」が揃ってきた

今週のニュースをまとめると、こういう構図だ。Figure 03が工場ラインで量産に入り、JALが空港で本業務委託を組んだ。BotQが週55台のペースで動いており、HyundaiはAtlasの組織統合を急いでいる。

ロボットの性能が上がっているのは事実だが、今起きているのはそれ以上に「製造インフラ」と「実運用のノウハウ」の蓄積だ。1,250時間の実稼働データ、羽田の3年契約、BMW追加発注——これらはデモ映像では作れないものだ。2026年後半は、この積み上げがどれくらいのペースで拡大するかを見ていきたい。

参考：humanoid.press／www.therobotreport.com／kraneshares.com／www.bloomberg.com

ヒューマノイドフィジカルAIFigure AIBoston Dynamics展示会ロボット