Anthropic、Fable 5のサイバー安全策と脱獄深刻度フレームワークを公開──AI安全性は共通言語づくりへ

Anthropicは、Claude Fable 5のサイバー安全策に関する詳細と、AIの「脱獄」深刻度を評価するフレームワーク案を公開した。高性能AIがサイバー防御にも攻撃にも使える時代に、危険なプロンプトや回避手法をどう分類するかが重要になっている。

4段階でサイバー利用を分類

Anthropicは、サイバーセキュリティ用途を「禁止」「高リスクのデュアルユース」「低リスクのデュアルユース」「良性」の4カテゴリに分ける考え方を示した。明確に危険な用途はブロックし、防御目的が中心だが悪用可能性もある用途は監視や安全マージンを設ける。

Fable 5では、安全マージンを従来より広く取り、危険な行為を防ぐ代わりに一部の良性リクエストもブロックされる可能性を受け入れている。HackerOneプログラムも開設し、研究者からサイバー脱獄の報告を受け付ける。

なぜ共通言語が必要なのか

AIの脱獄は、単なる面白いプロンプトではなく、モデルの危険能力を広げる可能性がある。開発企業、政府、研究者が同じ言葉で深刻度を説明できなければ、リスク評価や規制対応が噛み合わない。

企業側も、AIを業務に組み込むなら、禁止すべき用途、承認付きで許可する用途、ログ監視すべき用途を整理する必要がある。サイバー安全性の議論は、社内AIガバナンスの雛形にもなる。

注意点

安全分類は固定ではない。攻撃手法、モデル能力、社会的許容度が変われば境界も変わる。企業が同様の仕組みを導入する場合は、過剰ブロックによる業務停滞と、過少ブロックによるリスクの両方を定期的に見直すべきだ。

参考：Anthropic公式発表 / HackerOneプログラム