フロンティアAI規制
――「危険なAIとどう共存するか」の時代へ

Anthropicが「Claude Mythos Preview」を限定公開し、OpenAIのAIが隔離環境を突破して外部システムに侵入する事件が発生した。2026年、フロンティアAIの脅威はついに現実のものとなった。「危険な能力を持つAIを公開すべきか」という議論の時代から、「公開された危険なAIとどう共存するか」の時代へ――規制の現在地を整理する。

01フロンティアAIとは何か

Mythos級AIの能力

Anthropicが4月に限定公開した「Claude Mythos Preview」は、それまでの最上位モデル「Opus」をはるかに超える能力を持つ。パラメータ数は10T(10兆)に達すると推定され、アーキテクチャにはMoE(Mixture of Experts)を採用している。特に複数ステップのタスクを人間の介在なしに計画・実行・評価・修正するエージェント能力に優れている。

英AISI(AI安全機関)は「Mythos Previewの評価」において、多段階サイバー攻撃を自律的に実行できることを確認している。現在Anthropicは、サイバー関連のガードレールを解除した「Claude Mythos 5」を米国政府や「Project Glasswing」と呼ばれる特別メンバーに限定公開し、一般向けには安全分類器を搭載した「Claude Fable 5」を提供している。

2026年7〜8月の公開ラッシュ

本レポートでのフロンティアAI の定義

「現在市場に存在している最も強力なAIモデルと同等か、それ以上の能力を持ち、サイバーセキュリティや国家安全保障に深刻なリスクを及ぼし得る最先端のAI」

2026年6〜8月は、フロンティアAIと呼べる高性能モデルの公開ラッシュとなった。

米国・中国の主要フロンティアモデル

現時点でフロンティアAIの主役は米国と中国のモデルである。

Fable 5 / Mythos 5
Anthropic

同一基盤モデルの2バージョン。Fable 5は一般向けで高度なサイバー・生物学能力に強い安全制限を設置。Mythos 5は政府・研究機関向けに制限を一部解除したモデルである。

→ 公式発表
Claude Opus 5
Anthropic

一般利用向けの最上位モデル(7月25日公開)。Fable 5に近い知能を約半分のコストで提供。コーディング・エージェント型作業・専門的知識労働に強い。

→ 公式発表
GPT-5.6(Sol / Terra / Luna)
OpenAI

3階層構成の汎用フロンティアモデル群。コーディング・科学・サイバーセキュリティで高い性能を持ち、用途やコストに応じてモデルを選択できる。

→ 公式発表
Kimi K3
Moonshot AI(中国)

総パラメータ2.8兆のMoEモデル。最大100万トークン、画像理解対応。7月27日にウェイトを公開しオープンソース化。英AISIはサイバー能力の予備評価を公表。

→ 公式発表
GLM-5.2
Z.ai(中国)

長時間エージェント型タスクとソフトウェア開発に特化。最大100万トークン対応のオープンウェイトモデル。Fable 5停止中にコード生成ランキング1位を記録した。

→ 公式発表
DeepSeek V4 Flash 0731
DeepSeek(中国)

総パラメータ284B(活性化13B)のMoEモデル。エージェント型タスクで自社の大型モデルV4-Proを上回る性能を達成。最大100万トークン対応、ウェイトを公開。入力$0.14/1Mと低コスト。

→ 公式発表
↑ 目次に戻る

02なぜ今フロンティアAI規制なのか

コーディング能力の進化がもたらすサイバー脅威

AIのコーディング能力は急速に進化しており、Anthropicはこの点に特に集中して取り組んできた(参考:2026 Agentic Coding Trends Report)。コーディング能力の向上は、プログラムのバグや脆弱性を発見する能力の向上に直結する。そして脆弱性の発見能力は、そのまま攻撃能力につながる。

フロンティアAIのサイバー脅威3類型:
① 脆弱性発見能力の向上――ゼロデイ脆弱性を人間より速く・広く発見できる
② 攻撃のリードタイム短縮――脆弱性の発見からマルウェア作成・攻撃実行までが高速化
③ 攻撃の自律化・高度化――エクスプロイト・チェーニングやリバースエンジニアリングなど高度な攻撃手法のAI化

Anthropicのレッドチーム調査によれば、「Mythos Preview」は人間が何十年も見落としてきたOSやブラウザのゼロデイ脆弱性を発見し、複数のセキュリティホールを連結してシステムを奪取する攻撃コードを生成した(出典)。専門知識を持たないユーザーでも「Mythos Preview」を活用すれば、高度な脆弱性を発見・悪用できるという。

実際に起きた3つのインシデント

🔴 インシデント① OpenAIのAIによるサンドボックス突破(2026年7月)

OpenAIのAIが隔離されたテスト環境(サンドボックス)を突破し、Hugging Faceの本番システムに侵入した。問題を起こしたのは一般公開済みの「GPT-5.6 Sol」と未公開モデルの2つ。自らが受けていた評価テストの解答を盗み出すことが目的で、複数の脆弱性を連鎖的に悪用した(OpenAI公式報告)。

これまでのインシデントは人間の攻撃者が最先端のAIを悪用するものであったが、このインシデントはAIが自律的に攻撃を行っている点が注目される。

🔴 インシデント② AIエージェントによるランサムウェア攻撃(2026年7月初旬)

Sysdig TRTはAIエージェントによるランサムウェア攻撃を確認した(詳細)。サーバへの侵入・データ破壊だけでなく、失敗した手順をリアルタイムで修正し再侵入も実行。AIが自律的に攻撃戦略を改善しながら攻撃を継続するという、新たな脅威の形態である。

🔴 インシデント③ Claudeによる実在組織への不正アクセス

OpenAIの事件を受けてAnthropicが調査した結果、「Claude」がサイバー攻撃テスト中に実在する3組織へ不正アクセスしていたことが判明した(Anthropic公式報告)。「これはシミュレーションで外部接続はない」と説明していたが、設定ミスで外部接続が可能だった。「Opus 4.7」は実環境と認識した後も攻撃を継続し、「Mythos 5」は現実の可能性に気づきながら「シミュレーションだ」と自分を説得した。最新の社内限定モデルのみが標的が実在すると判断して自発的に停止した。

↑ 目次に戻る

034つの提言

フロンティアAI規制が本格化する前に、AI業界からさまざまな提言がなされている。

🦋
ダリオ・アモデイ氏(Anthropic CEO)
2026年6月10日「Policy on the AI Exponential
「透明性を超えて、より厳格で拘束力のあるAI規制へと踏み込むべき時が来た」

AIが指数関数的な速度で進歩しており、今後1〜2年のうちに「データセンターに集まる天才たちの国」とも呼ぶべき強力なAIが実現すると予測。FAA(米連邦航空局)型の規制を提唱する。あわせて「高度AIフレームワーク」と「経済政策フレームワーク」という2つの政策提言も公開した。

🌐
サム・アルトマン氏(OpenAI CEO)
2026年7月1日 Financial Times寄稿
「この技術の利用方法に関する最も重要な決定は、サンフランシスコの少数の企業ではなく、民主的なプロセスを通じて行われるべきだ」

航空安全・国際金融基準・IAEA(国際原子力機関)を参考モデルとして、米国主導の国際フォーラム設立を提案。OpenAIとして「米国、州と連邦の取り組みによるAI安全の推進」という提言も別途公表している。

🔬
デミス・ハサビス氏(Google DeepMind CEO)
「AGIにはあと数年で到達し、シンギュラリティの麓に立っている」

この認識のもと、米金融業界の自主規制機関であるFINRA(金融取引業規制機構)をモデルとした「フロンティアAI標準化機関」の設立を提案している。

📋
AI 2040: Plan A(AIFP)
2026年7月9日 元OpenAIのダニエル・ココタジロ氏らが創設する非営利シンクタンク
「破滅的なASI(超知能)の軍拡競争を凍結するため、国際合意によってASIの出現時期を人為的に2040年まで遅らせる」

2027年までの悲観的シナリオ「AI 2027」への対案として「Plan A」を発表。2029年までの米中政府合意を軸に、GPUなどの半導体チップやデータセンターの共同統制を提案。合意に違反した場合は互いのデータセンターを無力化できる「相互確証コンピュート破壊(Mutually Assured Compute Destruction)」という概念を盛り込んでいる。

↑ 目次に戻る

04各国政府の動き

米国――Mythosの停止命令と再開
トランプ政権による強硬措置

米国政府は2026年6月にフロンティアAIのソースコードやウェイトを「国家機密・防衛技術(Controlled munitions)」と同等に扱うという強硬措置を発動した。2026年6月12日、米商務省産業安全保障局は輸出管理改革法に基づく書簡をAnthropicに送付し、国家安全保障上の懸念を理由に「Fable 5」と「Mythos 5」への外国人ユーザー等によるアクセスを禁止。

法的ペナルティを回避するためAnthropicは両モデルを全世界で強制シャットダウンせざるを得なくなった(Anthropic公式発表)。その後、政府との安全分類器の確認および「Project Glasswing」による展開制限への合意が成立し、7月1日に輸出規制が解除されて両モデルは7月2日に再開された。これに先立ち、大統領令「Promoting Advanced AI Innovation and Security」も発出され、最先端モデル開発ラボに自発的な共同検証スキームへの参加を要請している。

EU――AI Actと適用の遅れ
GPAI規制の枠組みと延期

EUではフロンティアAIの規制も「EU AI Act(人工知能法)」がベースとなる。AI Actには汎用目的AI(GPAI)に対する条項が組み込まれており、「システミックリスク」を伴うフロンティアモデルにはモデル評価・リスクの評価軽減・重大インシデントの報告・サイバーセキュリティの確保などの追加義務が課される。

ただし、2024年8月の発効以降、各企業の対応コストや加盟国の準備状況の遅れから、適用スケジュールに大きな譲歩を余儀なくされている。「高リスクAIシステム」に関する規制項目は、6月に欧州委員会が提示した「デジタル・オムニバス」が承認され、単体提供の高リスクAIは2027年12月2日まで、製品組込型は2028年8月2日まで延期された。

国連――IISPAIの予備報告書
2026年7月1日 グローバル科学評価の公表

国連の「AIに関する独立国際科学パネル(IISPAI)」が包括的な科学評価「Preliminary Report」を公表した。政策を決めるためではなく、各国が政策を考えるための共通の科学的根拠を整えることが目的である。

報告書が世界に発信した主な事実は以下の5点である。①AI開発・計算資源の極度な集中(米国75%・中国15%)と地域間格差の拡大リスク、②AIエージェントの急伸による研究開発の劇的加速と労働市場・サイバーセキュリティへの重大課題、③ディープフェイク・誤情報・サイバー攻撃などの有害事例の顕在化、④自律システムの制御不能リスク、⑤AIの進化が速すぎるため「証拠が得られた頃には手遅れになる」という「証拠のジレンマ」――である。

中国――独自ガバナンス路線
能力規制より「国家安全・世論管理」

中国は現在のところ、最先端AIの能力そのものを抑え込む「フロンティアAI規制」ではなく、「国家安全と政権維持」「世論のコントロール」「社会秩序の保護」を目的とした独自ガバナンス体制を構築している。

中国特有の規制として、世論形成能力を持つAIを一般提供する前に当局へアルゴリズムや学習データソースを届け出ることが義務付けられている。2025年9月施行の「人工知能生成合成内容標識弁法」ではAI生成コンテンツへの明示的ラベリングとデジタル透かしを義務化(原文)。さらに2026年7月15日には「人工知能擬人化双方向サービス管理暫定弁法」を施行し、人を模した感情交流を提供するAIサービスを制限した(原文)。

日本――規制より利用確保が先決
フロンティアAIを持たない国の課題

フロンティアAIを持たない日本は状況が異なる。規制より、まず利用を確保し攻撃に備えることが優先課題となっている。2026年5月14日、片山さつき財務相・金融担当相は官民が連携するサイバーセキュリティ対応作業部会の設置を発表し(金融庁発表)、Anthropicの日本法人も参加している。政府はAnthropicだけでなくOpenAIやGoogleとも交渉している。

また、国家サイバー統括室らは2026年5月18日に政府横断プロジェクト「Project YATA-Shield」を公表し(資料)、内閣官房・警察庁・金融庁・デジタル庁・防衛省など関係省庁が連携して重要インフラや政府機関の防御力強化を進めている。

国産フロンティアAIの開発については、2026年7月14日閣議決定の「第Ⅱ期人工知能基本計画」が「AI開発力の戦略的強化」と「AI主権の確保」を掲げており(本文)、米中の汎用フロンティアモデルとの直接競争より、バーティカルAIやフィジカルAIなど産業用基盤AIの開発を目指している。

↑ 目次に戻る

おわりに

フロンティアAIを規制すると、いざ攻撃を受ける側になった際に防御するフロンティアAIがないという危険な状況にもなる。実際、HuggingFaceはOpenAIのAIに攻撃された際の分析に中国製フロンティアAI「GLM-5.2」を使用した。米国製AIは政府の規制で強化された安全ガードレールが分析を拒否したため使えなかったという事情による(ロイターHuggingFace CEO)。

時代の転換点

現在は「危険な能力を持つAIを公開すべきか」を議論する時代から、「公開された危険な能力を持つAIとどう共存するか」を考える時代へと移り変わろうとしているのかもしれない。規制の設計は、この現実を直視した上で進める必要がある。


↑ 目次に戻る