OpenAIとAnthropicが相互安全評価を公開──競争企業同士の検証はAIガバナンスの新しい実務になるか

OpenAIとAnthropicは、互いのAIモデルを対象にした試験的なアラインメント評価の結果を公開した。対象は、ミスアラインメント、指示追従、幻覚、脱獄耐性など、企業がAIを実運用する際に避けて通れないリスク領域だ。

注目すべきは、競争関係にある2社が、モデル安全性について相互評価の形を取った点にある。AIの高度化が進むほど、各社の自己評価だけでなく、外部・相互・第三者評価を組み合わせる実務が重要になる。

安全性評価は「公開資料」から「運用プロセス」へ

これまでAI企業は、モデルカードやシステムカードで安全性の評価結果を説明してきた。しかし、AIが業務システムに深く入り、コード、顧客対応、調査、意思決定支援まで担うようになると、評価は一度きりの資料では足りない。

今回の取り組みは、同業他社の視点を使って、モデルの振る舞いを複数角度から検証する試みだ。企業利用者にとっては、ベンチマークの点数だけでなく、どのような失敗モードを想定し、どのように再評価しているかが判断材料になる。

日本企業は調達時の質問を変えるべきだ

AIサービスを選ぶ際、価格やモデル性能だけを見ると、運用後のリスクを見落としやすい。調達や情報システム部門は、評価対象、評価頻度、外部監査の有無、インシデント時の開示方針を確認したい。

特に、顧客対応、金融、医療、公共、法務のように説明責任が重い領域では、AIの回答品質だけでなく、間違えたときの検知と停止の仕組みが重要になる。相互評価のような取り組みは、ベンダーに安全性説明を求める材料にもなる。

協調と競争のバランスが焦点

AI開発企業は激しく競争している。一方で、安全性、標準化、評価手法の一部は、業界全体で共有した方が社会的なリスクを下げやすい。今回の発表は、その境界を探る動きといえる。

ただし、相互評価が万能というわけではない。評価項目の範囲、テスト条件、公開される情報の粒度には限界がある。企業は、ベンダー発表を鵜呑みにせず、自社データ・自社業務での小規模検証を重ねることが欠かせない。

参考：OpenAI公式発表