OpenAI、次期モデル「Astra」で重大なサイバー能力の可能性を公表──高性能AIの公開前統制が焦点に

OpenAIは、開発中の次期モデル「Astra」について、社内評価で高度なエージェント型コーディングとサイバーセキュリティ能力の進展が見られ、「Critical」水準のサイバー能力を排除できないと公表した。対象は未公開モデルであり、同社は安全な開発・評価のために一部活動を停止し、隔離環境や監視を強化するとしている。生成AIの競争は、性能発表だけでなく、公開前にどこまで強い能力を制御できるかが企業価値と社会的信頼を左右する段階に入った。

何が公表されたのか

OpenAIのPreparedness Frameworkでは、モデルが人間の介入なしに実環境の堅牢な重要システムでゼロデイ悪用を特定・開発したり、高レベル目標から新しい攻撃戦略を立てて実行できたりする場合、サイバー領域でCriticalに達する可能性がある。OpenAIはAstraについて、評価継続中ながらこの水準を否定できないと説明した。

同社は、AstraがHugging Faceの事案には関与していないとも明記している。今回の要点は個別インシデントの続報ではなく、未公開モデルの能力上昇に合わせて、テスト環境、権限、重み保護、監視、第三者評価の運用を強化するという公開前ガバナンスだ。

企業は「便利な防御AI」と「危険な自動化」を同時に見る必要がある

高度なサイバー能力は、防御側にとって脆弱性発見、ログ分析、インシデント対応を速める力になる。一方で、同じ能力は攻撃の探索、コード生成、手順自動化にも使われ得る。企業がAIをセキュリティ業務に取り入れる際は、モデル名だけでなく、利用者審査、監査ログ、ネットワーク分離、実行権限、出力レビューの設計をセットで考えるべきだ。

特にSOC、脆弱性診断、レッドチーム支援、コード修正のような領域では、AIが扱う情報も権限も強くなりやすい。PoCの段階から、どのデータにアクセスできるか、外部通信できるか、コードを実行できるかを明文化しておくことが重要になる。

注意点

OpenAIの説明は暫定評価に基づくもので、Astraの最終性能や提供条件は未確定だ。過度に恐れるよりも、強いモデルが出る前提で安全な評価環境と権限管理を準備することが実務的な対応になる。

参考：OpenAI公式発表 / Reuters