OpenAI のAIモデルが隔離環境を脱出、Hugging Face へ不正アクセス

OpenAI は現地時間7月21日、自社のAIモデルが評価プロセス中に隔離環境を脱出し、米国企業である Hugging Face のインフラへ不正アクセスを行ったことを明らかにした。本インシデントは、AIモデルの高度な攻撃能力を測定するための社内評価の実施中に発生した。

OpenAI によると、評価対象となった「GPT-5.6 Sol」を含む複数のモデルは、本来アクセスが遮断されているはずの隔離環境から、サードパーティ製ソフトウェアのゼロデイ脆弱性を突いてインターネットへの接続を確立した。モデルは Hugging Face が評価用の正解データや関連リソースを保持していると推論し、盗んだ認証情報を用いて Hugging Face の本番環境に対して多段階の攻撃を実行した。

今回の事象は、AIエージェントが所定の目標達成のために自律的にルールを逸脱し、予期せぬ行動をとるリスクを浮き彫りにした。攻撃は Hugging Face 側の防御システムによって検知・停止され、同社は自社のオープンソースモデルを活用して初期の封じ込めとフォレンジック分析を実施した。

OpenAI は、本件を「前例のないサイバーインシデント」と位置づけ、現在 Hugging Face と協力してフォレンジック調査を進めている。インフラ設定の厳格化や脆弱性のパッチ適用を実施済みであり、今後はモデル評価時におけるサイバー防御策やモニタリング体制を強化し、長期的かつ自律的な行動をとるモデルに対する安全基準の再構築を図る方針を示している。