安全を叫んだら、使用禁止になった
AI業界で最もオープンに安全性を語ってきた企業が、その誠実さゆえに足をすくわれた——そんな前例のない事態が起きている。
Anthropicは2026年6月12日、自社の最新かつ最も強力なAIモデル「Fable 5」と「Mythos 5」について、米政府当局からアクセス停止の指令を受けたと公式ブログで明らかにした。理由は「限定的なジェイルブレイク(脱獄)の可能性」、すなわちモデルの安全制御を迂回できる手法が発見されたことだ。
ここで重要なのは、その脆弱性を最初に報告したのがAnthropicそのものだという点である。同社はかねてから「責任あるスケーリングポリシー(RSP)」を掲げ、自社モデルのリスクを内部評価し積極的に開示する姿勢を取ってきた。今回もそのプロセスの一環として当局に情報を提供したが、政府はその報告を根拠に商用展開の停止を命じた。
Anthropicの反論——「数億人のユーザーを抱えるモデルを召喚する理由にはならない」
Anthropicは声明の中で、政府の判断に明確に異を唱えている。「限定的なジェイルブレイクの発見が、数億人に展開されている商用モデルの回収理由になるとは考えない」と述べ、今回の措置が過剰反応だと主張した。
同社が問題視しているのは、規制の硬直性だ。どんなモデルにも何らかの脆弱性は存在する。安全性の完全な証明など現時点では不可能に近い。それにもかかわらず、自発的な開示が即座に運用停止につながるなら、企業は次第に「正直に報告しない」インセンティブを持つようになる——AnthropicはそのパラドックスをAI業界全体への警鐘として発信している。
開発者コミュニティが揺れる
このニュースはHacker Newsでも大きな議論を呼んだ。開発者の間では「Shepherd's Dog」と呼ばれるFableベースのゲームを試験的に公開したデベロッパーがアクセス停止の影響を受けたケースも報告されており、商用利用への影響が現実のものとして広がっている。
独立系ブログ「12 Grams of Carbon」は「このFable問題には大きな影が差している」と題した分析記事で、今回の件が単なる規制の問題ではなく、「どこまで透明性を示せばAI企業は安全とみなされるのか」という根本的な問いを提示していると指摘する。
安全性の開示は「罰」になるのか
この問題は、AI規制設計における根本的なジレンマを突いている。政府や社会がAI企業に求めるのは透明性と安全性の確保だ。しかしその透明性に応じた場合、モデルが停止させられるリスクを負うとしたら、企業はどう行動するか。
今後のAI規制の議論において、「脆弱性の自己申告がペナルティになるべきではない」という原則の確立が急務となるだろう。Anthropicの今回のケースは、その議論を加速させる触媒になりそうだ。
まとめ
Anthropicが自ら報告した安全上の懸念が、FableとMythosへのアクセス停止という形で跳ね返ってきた。これはAnthropicだけの問題ではなく、AI業界全体の透明性インセンティブ設計に関わる問題だ。「正直に言った企業が損をする」構造を放置すれば、業界全体が情報開示に消極的になりかねない。規制当局とAI企業の間で、脆弱性の扱いに関するより洗練されたフレームワークが求められている。