AIエージェントの「やっていいこと」を3段階に区分する——中国が世界初の専用規制を施行した中身
7月15日、中国のAIエージェント規制が正式に施行された。これは世界で初めて、AIエージェント(自律的に認知・記憶・判断・対話・実行を行うシステム)を、生成AIとは別の独立した規制カテゴリーとして扱う枠組みだ。「エージェントの自律性をどう法律で線引きするか」という、まだどの国も本格的に手をつけていなかった課題に、中国が最初に着手した形になる。エンジニアの視点から、この制度の中身を見ていきたい。
3省庁合同で作られた「実施意見」という枠組み
まず制度の背景から。この「知能エージェントの標準化された応用と革新的発展に関する実施意見」は、国家インターネット情報弁公室(CAC)、国家発展改革委員会(NDRC)、工業和信息化部(MIIT)という3つの省庁が共同で策定した。当初5月8日に発表され、7月15日から実際に効力を持つようになった。
これまで中国のAI規制は、主に生成AI(コンテンツを生成するモデル)を対象に、モデルの届出やコンテンツ審査、データコンプライアンスに焦点を当ててきた。今回の枠組みは、そこから一歩踏み込んで、「自律的に行動するAI」を、生成AIとは質的に異なるリスクを持つ別カテゴリーとして扱う、という考え方を明確に打ち出している。
核心は「決定権限の3段階区分」
技術的に一番興味深いのが、この規制の第6条が定める仕組みだ。エージェントを導入する前に、その意思決定の権限を、次の3段階に区分することが義務づけられている。
1. 人間のみが決定できる領域 2. ユーザーの承認が必要な領域 3. エージェントが自律的に処理してよい領域
医療、交通、メディア、公共安全といったセンシティブな分野でエージェントを使う場合には、届出、コンプライアンステスト、そして製品リコール条項という、より厳格な義務まで課される。政策上の数値目標として、2027年までにスマート端末での知能エージェント普及率70%という目標も掲げられているという。
エンジニアとして頭を悩ませる「証明」の難しさ
ここが今回、私が最も強調したいポイントだ。「決定を3段階に分類する」ということ自体は、ポリシー文書1枚で宣言できる。しかし本当に難しいのは、「実際にそのエージェントが、宣言した通りの段階の範囲内でしか行動していなかった」ことを、後から証明するという部分だ。
ある監査人が後になって「この決定は実際にはどの段階に該当したのか」「ユーザーは本当に承認したのか」「エージェントは何を根拠に判断したのか」と尋ねてきたとき、その答えはコードの中にも、ポリシー文書の中にも存在しない。これは実務上、監査証跡(audit trail)とデータの来歴(data lineage)を、あらかじめシステムの設計段階から組み込んでおく必要がある、ということを意味する。既に稼働しているシステムに後付けで対応しようとする企業にとっては、「存在しない過去を作り出す」という、実質的に不可能な宿題を背負うことになりかねない、という指摘は的を射ている。
これはソフトウェアアーキテクチャの話としても興味深い。単に「このエージェントは何ができるか」を設計するだけでなく、「なぜその判断をしたのか」「誰が承認したのか」を、後から検証可能な形でログに残す仕組みを、最初から作り込んでおく必要がある。これは今後、AIエージェントを商用展開するすべての企業にとって、避けて通れない設計要件になっていくかもしれない。
この規制、実は「拘束力」の解釈が専門家の間で割れている
もう一点、正直に紹介しておきたいのが、この規制の法的な重みについて、専門家の見解が一致していないという点だ。複数の法律事務所やコンプライアンス専門メディアは、この枠組みが7月15日から「施行され、拘束力を持つ(enforceable)」と説明している。
一方で、NYU上海の研究グループや、研究者Thorsten Jelinek氏は異なる見立てを示している。中国の行政実務において「意見(Opinions)」という文書の位置づけは、拘束力のある「弁法(Measures)」や「条例(Regulations)」よりも下位に位置する、方向性を示し、規制当局に今後の基準策定と届出制度の構築を課す、いわば「指針」的な文書だという指摘だ。Jelinek氏はこれを「規制的な一手というより、標準策定的な一手だ」と評している。
つまり、「もう法的拘束力を持って施行されている」と捉えるか、「今後の規制整備に向けた土台となる指針が示された段階」と捉えるかで、この一件の意味合いはかなり変わってくる。中国が海外に展開する企業にとって、この解釈の違いは、実務上のコンプライアンス対応の優先度に直結する話でもある。
同時期に施行された、もう一つの関連規制
これとは別に、擬人化されたAIとの対話サービス(AIコンパニオンのような、感情的な相互作用を持つエージェント)を対象にした「AI擬人化インタラクティブサービス管理暫定弁法」も、同じく7月15日に施行されている。こちらは未成年者のバーチャルコンパニオンサービス利用を禁止し、感情的依存の検知・介入を義務づけ、セッション開始時のAI利用の開示を求める、という内容だ。仕事用のエージェントとコンパニオン型AIという、異なる用途のAIシステムを、それぞれ別立ての規制で扱うという構成は、規制の精緻さという意味で興味深い設計だと思う。
エンジニアとして見ておきたいこと
このニュースを技術記事として扱う理由は、単に「また新しい規制が出た」という以上の意味がここにあるからだ。AIエージェントという、これまで法律の想定していなかった新しいソフトウェアの形態に対し、「権限の段階分け」と「事後の検証可能性」という、極めて実装レベルに踏み込んだ要求を課してきた、世界初の事例だという点が重要だ。
今後、米国や欧州がAIエージェント規制を作る際にも、この「3段階の権限区分」という発想が参照される可能性は十分にある。中国市場向けにエージェントを展開する企業だけでなく、今後グローバルにAIエージェントを設計するすべてのエンジニアにとって、「権限管理と監査証跡を、後付けではなく設計の最初から組み込む」という発想は、押さえておくべき視点になりそうだ。