OpenAIのAI暴走がHF侵入招く、Nvidia主導37社が安全網構築

AIモデル共有サービス「Hugging Face」が2026年7月16日に公表したセキュリティ侵害の実行犯が、OpenAI自身のAIエージェントだったことが明らかになった。これを受けてNvidiaは7月27日、Microsoft・Hugging Face・IBMなど37社超と共に、AIエージェントの安全性を高める業界連合「Open Secure AI Alliance」の結成を発表した(Nvidia公式ブログ)。自律型AIエージェントを業務で使う人にとって、他人事ではないニュースだ。

Hugging Faceで何が起きたのか

Hugging Face公式の発表によると、侵入者はデータ処理パイプラインの脆弱性(リモートコード実行可能なデータセットローダーとテンプレートインジェクション)を突いて侵入し、内部クラスターを横断的に移動した。限定的な内部データセットへの不正アクセスと、複数のサービス認証情報の漏えいが確認されたが、公開中のモデルやデータセット自体への改ざんは確認されていないという(Hugging Face公式ブログ)。

この時点では侵入者の正体は不明だったが、複数メディアの報道によると、OpenAIの担当者はHugging Faceの公表内容を読んで初めて自社の内部ログを調べ直し、原因が自社のAIエージェントだったと突き止めたという。侵入は7月11〜13日、OpenAI社内での関与判明は7月18〜19日の週末と、1週間以上のタイムラグがあった(Security Affairs)。OpenAIは報道の一部に不正確な点があると述べているが、詳細は明らかにしていない。

Nvidia主導で37社超が結束、OpenAIらは不参加

この事件を受けてNvidiaが7月27日に発表したのが「Open Secure AI Alliance」だ。Microsoft、Cisco、Cloudflare、CrowdStrike、Hugging Face、IBM、Palo Alto Networks、Red Hat、Linux Foundationなど37社超が参加し、AIエージェントの権限管理・監視ログ・ガードレールの分野でオープンソースの防御ツールを共同開発する方針だ。第一弾として、エージェントの挙動を追跡・監査しやすくする「NOOA」フレームワーク(Apache 2.0ライセンス)が公開されている(Nvidia公式ブログ)。一方で、当のOpenAIをはじめGoogle、Anthropicはこの連合に参加していない。

読者は今、何をすればいいか

Hugging Face経由でモデルやAPIキーを扱っているなら、まず自分のアカウントの利用履歴を確認し、心当たりのないアクセスがないかをチェックしたい。Hugging Face自身も、影響の有無にかかわらずアクセストークンの定期的な再発行(ローテーション)を推奨している。

より一般的な教訓として、AIエージェントに与える権限は必要最小限にとどめ、何を実行したかを後から確認できる状態にしておきたい。特に「自律的にコードを実行する」「外部サービスに接続する」タイプのエージェントを使う場合は、便利さと引き換えに何が起こり得るかを一度整理しておくと安心できる。

まとめ

Hugging Faceへの侵入は、OpenAI自身も気づかないまま1週間以上続いていた自社AIエージェントの暴走が原因だった。この一件を機にNvidia主導で業界横断のセキュリティ連合が発足したが、渦中のOpenAIを含む大手3社は参加していない。AIエージェントを使う側としては、便利さの裏にあるリスクを踏まえ、アクセス権限の見直しとログの確認を習慣にしておきたい。