FTCがOpenAI・Anthropicなどを調査──AI企業に問われる「消費者リスク」の説明責任

米連邦取引委員会（FTC）が、OpenAI、AnthropicなどのAI企業を対象に、消費者リスクや安全対策をめぐる広範な調査を始めたと報じられています。AIチャットボットやエージェントが日常利用に入り込むなか、技術性能だけでなく、利用者への影響をどう説明し、どう防ぐかが問われています。

今回の焦点は、AIが誤情報を出すかどうかに限られません。依存、未成年利用、メンタルヘルス、意思決定への過度な影響、個人データの扱いなど、消費者保護の観点から複数の論点が重なっています。

安全性は「研究発表」から「規制対応」へ

OpenAIやAnthropicは、これまでも安全評価、利用制限、モデルカード、レッドチーミングを公表してきました。しかし、当局調査では、それらの取り組みが実際の利用者被害をどこまで減らしているか、企業がどのような情報を把握していたかが問われます。

日本企業への示唆

国内企業がAIサービスを導入する際も、ベンダーの「安全です」という説明だけでは不十分です。利用者属性、想定外利用、問い合わせ窓口、ログ監査、停止基準を契約・運用に落とし込む必要があります。

特に顧客向けチャット、教育、医療、金融、人事領域では、AIの出力が利用者の判断に直接影響します。FTC調査は、AIサービスの競争軸がモデル性能から、消費者リスクを継続的に管理できる体制へ移っていることを示しています。

参考：Cybersecurity News / CNBC / Daily AI Report