NVIDIAがAIエージェントの「外側」に安全柵──Open Agent Safety Platformの狙い

NVIDIAは、AIエージェントをテストから本番運用まで安全に制御するための「NVIDIA Open Agent Safety Platform」を発表しました。OpenShellというオープンソースの安全な実行境界と、BlueField-4 DPU上で動くSentryという監視設計を組み合わせ、エージェントが許可範囲を越えようとした場合に隔離できるようにする構想です。

この発表が重要なのは、AIエージェントの安全性をモデル内部の振る舞いだけでなく、実行環境、ハードウェア、監査ログまで含めた「フルスタックの工学問題」として扱っている点です。企業がエージェントに実業務を任せるほど、権限と監視をどこに置くかが導入可否を左右します。

OpenShellとSentryで二重の境界を作る

公式発表によると、OpenShellはCPU上でエージェントの行動をトレースし、ポリシーを適用する安全なランタイム境界を提供します。NVIDIA Vera CPU向けに最適化されつつ、ArmやIntelなど第三者プラットフォームにも拡張できる設計です。

一方のSentryは、NVIDIA BlueField-4 DPUで動くアウト・オブ・バンドの監視役です。エージェントが動くCPU/GPUとは別の信頼領域から行動を見て、境界外へ出ようとする動きをミリ秒単位で隔離する、とNVIDIAは説明しています。

「エージェントを止める」より、運用可能にする発想

TechCrunchは、最近のAIエージェント関連インシデントを受け、NVIDIAが独立した安全層を前面に出したと報じています。Jensen Huang氏は、AIの可能性を実現するには安全性を解かなければならないと述べています。

注目すべきは、Anthropic、Microsoft、CrowdStrike、Hugging Face、Salesforce、ServiceNow、SpaceXAIなど、多数の企業が支持企業として挙げられていることです。エージェント基盤は単一企業のアプリ機能ではなく、クラウド、セキュリティ、ロボティクスにまたがる共通インフラへ向かっています。

日本企業が確認すべき点

業務エージェントを導入する企業は、モデル選定だけでなく、実行環境の権限分離、監査ログ、停止手段、データアクセス範囲を確認する必要があります。特に、コード実行、ブラウザ操作、社内SaaS連携を行うエージェントでは、従来のAPIキー管理だけでは不十分です。

一方で、専用DPUや新しいランタイムを前提にした構成は、既存インフラとの統合コストも伴います。まずは高リスク業務を切り分け、人間承認、サンドボックス、読み取り専用権限から始めるのが現実的です。NVIDIAの提案は、AIエージェントを「便利な自動化」から「統制された業務インフラ」へ進める節目といえます。

参考：NVIDIA公式発表 / TechCrunch