OpenAIがEU向けテキスト透かしを段階導入──AI生成文の「来歴」は実務で使えるか

OpenAIは、EU AI Actの要件に対応するため、テキストウォーターマーク技術textGrainを段階的に導入すると発表しました。API顧客は一部モデルで任意に利用でき、今後数週間でEU内のChatGPTおよびCodexの対象出力に不可視のウォーターマークを追加する予定です。

AI生成コンテンツの来歴管理は、画像や音声だけでなくテキストにも広がっています。ただし、OpenAIはテキスト透かしと検出技術には限界があり、何を示せて何を示せないかを透明にする必要があると説明しています。

textGrainは何をする技術か

textGrainは、モデルの語の選び方に不可視の統計的シグナルを加える仕組みです。検出器はそのシグナルを調べ、文章にOpenAIのウォーターマークが含まれている可能性を評価します。OpenAIは技術レポートを公開し、将来的にオープンソース化も計画しているとしています。

重要なのは、これは「AI文を完全に見抜く魔法」ではないことです。短い文章、選択肢が限られる文章、数学のように表現の自由度が低い内容では検出が難しくなります。発表では、1%の偽陽性率を目標にした場合、心理学などの200トークン程度の文章では約80%、400トークンでは約95%の検出率という評価も示されています。

検出器のアクセス制限にも意味がある

OpenAIはテキストウォーターマーク検出器へのアクセスを、当初は承認された研究者や専門組織に限定するとしています。検出器が広く悪用されると、回避方法の発見や誤判定の乱用につながる可能性があるためです。

一方、画像・音声についてはopenai.com/verifyやContent Provenance APIを引き続き公開します。つまり、コンテンツ種類ごとに成熟度とリスクが異なり、同じ「AI検出」として一括りにはできません。

企業は検出よりも記録設計を急ぐべき

日本企業が今回の発表から学ぶべきなのは、外部の検出器に依存しすぎないことです。社内でAIを使った文書、コード、提案資料を扱うなら、生成時点のモデル、プロンプト、編集者、承認者、最終判断を記録するプロセスが必要です。

テキスト透かしは、来歴管理の一部として役立ちます。しかし、誤判定や編集による欠落を考えると、最終的な信頼は技術だけでなく業務統制で作るものです。EU AI Act対応は欧州企業だけの話ではなく、グローバルにサービスを提供する日本企業にも波及するテーマになっています。

参考：OpenAI: Our approach to EU text provenance rules / OpenAI Verify / OpenAI Content Provenance API