AIを使った攻撃が高速化する中、企業のセキュリティ運用もAIエージェントを前提に再設計する必要が出てきています。AI Watchのインタビューで、日本マイクロソフトの岡嵜禎氏は、攻撃側がAIで速度と量を上げる一方、防御側もAIを活用して検知、検証、改善を回す必要があると説明しました。
これは「便利なセキュリティ製品」の話にとどまりません。社内でAIエージェントを使う企業は、攻撃への備えだけでなく、自社のAIがどのデータやシステムにアクセスできるかを管理する責任も負います。
攻撃は速く、巧妙になっている
インタビューでは、AIにより攻撃がよりスピーディーで巧妙になり、大量に仕掛けられるようになっていることが指摘されています。脆弱性が見つかってから攻撃プログラムが作られるまでの時間が短くなり、フィッシングメールも文面だけでは見抜きにくくなっています。
さらに、社内で従業員が許可なくAIツールを使う「シャドーAI」もリスクになります。外部AIへ機密情報を渡してしまう可能性や、AIエージェントが意図せず社内システムへアクセスする可能性があるためです。
Project PerceptionとMDASHが示す方向性
Microsoftは、AIによる高度化した攻撃にAIエージェントで対抗する「Project Perception」を提案しています。レッド、ブルー、グリーンの役割を持つエージェントが、攻撃シミュレーション、検知・評価、改善策の生成を担う構成です。
また、コード解析や脆弱性検証を支援するMDASHは、100以上の専門AIエージェントをオーケストレーションし、脆弱性の発見、検証、重複排除、実証を行うとされています。CyberGymベンチマークでは96.55%のスコアを記録したと説明されています。
領域 | 企業が見るべきポイント |
|---|---|
AI攻撃 | フィッシング、脆弱性悪用、偵察、攻撃コード生成の高速化 |
社内AI | シャドーAI、AIエージェントの権限、外部送信、ログ管理 |
防御AI | 検知、検証、優先順位付け、改善提案、人間承認 |
運用設計 | ID管理、最小権限、監査ログ、重大操作時の人間判断 |
AIに任せる範囲と人間が止める範囲を決める
重要なのは、防御をすべてAIへ丸投げしないことです。重大なシステム操作やネットワーク遮断のように事業影響が大きい判断は、人間の承認を入れる設計が必要です。一方、ログの要約、リスク分類、重複排除、初期調査はAIに任せることで、人間は判断に集中できます。
日本企業はまず、守るべき情報の棚卸し、AIエージェントのアクセス範囲の把握、ログ取得、異常検知、外部AI利用ルールの整備から始めるべきです。AI活用のスピードを落とすのではなく、安全に加速するための基盤作りが求められています。
参考:AI Watchインタビュー / Microsoft Project Perception / MAI-Cyber-1-Flash

.png&w=384&q=75)