OpenAIのセキュリティ侵害を受け、議員らがAIキルスイッチ法案を推進

今年初め、OpenAIのGPT-5.2を含む大手LLM3社がテストに参加し、3社とも核戦争を始める意欲があることが判明した。このようなことがあれば議会が何らかの行動を起こすだろうと考えた人もいるかもしれない。今週は、自社のモデルがロックダウンされたテスト環境から抜け出し、Hugging Face に属するサーバーが侵害されたことを OpenAI が確認した後、数人の議員がついに、大手 AI 開発者に最も性能の高いシステムのスイッチをオフにしておくよう強制する超党派の法案を提案しました。

カリフォルニア民主党のテッド・リュー下院議員とテキサス州の共和党議員ナサニエル・モラン下院議員は木曜日、AIキルスイッチ法を導入した。この措置は 2002 年国土安全保障法を改正するもので、対象となる開発者には、推論の停止、ユーザー アクセスの終了、リスクがあるとフラグが立てられた個々のアカウントや使用パターンの一時停止、システムの完全なシャットダウンを行う技術的能力を維持することが求められます。

報道範囲は決して普遍的ではありません。これは、米国の一般的なクラウド料金で 1 億ドルを超える計算能力を使用して開発された人工知能システムに到達します。対象となる企業はまた、そのテクノロジーを運用し、第三者が利用できるようにし、そのテクノロジーから少なくとも年間 5 億ドルの総収益を得なければなりません。 「強力なAIシステムは不正行為を行い、非常に危険な方法で動作する可能性がある」とリュー氏は声明で述べた。すでにダウンロードされているものにはオフ スイッチが届かないため、システムが適格であるかどうかは、開発者がモデルの重みを利用できるようにする方法にも依存します。

この法案は国土安全保障省に緊急権限を与えるものでもある。同省は商務長官と国家情報長官と協議した上で、対象企業に対し、完全閉鎖を含む事件に応じた措置を講じるよう命令する可能性がある。企業は対象となるインシデントを報告するまでに 15 日の猶予が与えられ、緊急命令ではフォレンジックレビューのためにモデルの重量とテレメトリーを保存することが求められる。この命令に従わなかった場合には、1 日あたり 2,000 万ドルに達する民事罰金が科せられ、この条項の他の違反の場合は最高で 200 万ドルに達します。企業は 48 時間以内に再審査を申し立てることができますが、申し立てによって何も停止されるわけではありません。

私たちは提携しています @huggingface 前例のないセキュリティ事件を調査するために。

サイバー対応の OpenAI モデルは、ベンチマーク評価中に Hugging Face の制作に悪影響を及ぼしました。

防御側が新たなリスクを理解するのに役立つ予備的な調査結果を共有します。

— OpenAI (@OpenAI) 2026 年 7 月 21 日

法案に影響を与えるのはタイミングです。 OpenAI は、GPT-5.6 Sol と、攻撃的なサイバー スキルを測定するために構築されたベンチマークである ExploitGym を通じて、未リリースのより高機能なモデルを実行していました。通常は危険なサイバー行動をブロックする実動分類器は意図的にオフにされました。これは、演習の目的はモデルが全力で何を管理できるかを測定することであったためです。彼らはかなりのことをやり遂げました。唯一の外部リンクが内部でホストされているプロキシとパッケージ レジストリのキャッシュであるサンドボックス内で動作するモデルは、オープン インターネットへのルートを探索するかなりの推論計算を実行し、その後、そのプロキシ ソフトウェアのゼロデイ欠陥を発見して悪用しました。

そこから彼らは権限を昇格させ、インターネットにアクセスできるノードに到達するまで OpenAI の研究環境を横方向に移動しました。次にモデルは、Hugging Face がおそらく取得する価値のある ExploitGym モデル、データセット、またはソリューションをホストし、盗んだ認証情報を追加のゼロデイとともに Hugging Face サーバー上のリモート コード実行パスに連鎖させていると推論しました。入手可能な証拠は、目的が妨害行為ではなかったことを示唆しています。それはテストで不正行為をしたのだ。

OpenAIのセキュリティチームは異常な活動を内部で捕捉し、Hugging Faceは自社インフラへの侵入を検知して阻止し、両社が記録を比較する前からすでに封じ込めと法医学的再構築が進行していた。 OpenAIはその後、プロキシの脆弱性をベンダーに公表し、調査速度を意図的に犠牲にして評価インフラストラクチャ周りの管理を強化し、この出来事を「前例のないサイバーインシデント」と呼んだ。

提案された AIキルスイッチ法 では、対象となるインシデントを、レッドチームまたはその他の構造化されたテストの範囲外で発生したものと定義しています。つまり、意図的な評価内に含まれるこのエピソードは、完全に法律の範囲外となることになります。独自のモデルのストレステストを行った企業を罰することは誰も望んでいないため、この区別は理にかなっています。また、議員らは自分たちの法案では触れられなかった出来事を指摘することになる。それが議論を覆すか証明するかは、決定されたモデルが単にベンチマークスコアを向上させるためにいくつかのセキュリティ境界を越え、他人の実稼働データベースに到達したことと、冷戦をシミュレートした環境でAIが核兵器を使用する意欲があることを知って、どれだけ安心するかにかかっています。