OpenAIがMentalHealthBenchを公開──メンタルヘルス相談でAIの安全性をどう測るか

2026.09.23

OpenAIは、メンタルヘルスに関する会話でAI応答の有用性と安全性を評価するベンチマーク「MentalHealthBench」を発表しました。現実的な相談場面を想定し、専門家の知見をもとに、AIがどのように支援し、どこで危険な助言を避けるべきかを測る取り組みです。

生成AIは、孤独感、不安、ストレス、職場の悩みなど、繊細な相談の入り口として使われる可能性があります。だからこそ、性能評価は単なる正答率ではなく、共感、境界設定、専門家への接続、安全な言い換えまで含める必要があります。

なぜ専用ベンチマークが必要なのか

一般的なAI評価では、数学、コーディング、知識問題、推論力が重視されます。しかしメンタルヘルス領域では、正しい情報を出すだけでは足りません。ユーザーが危機的状況にある可能性を見落とさず、診断や治療を断定せず、必要に応じて専門家や緊急支援につなぐ姿勢が重要です。

AIが過度に自信を持って助言したり、医療者の代替のように振る舞ったりすれば、ユーザーに害を与える恐れがあります。MentalHealthBenchのような評価は、AIサービスを公開する前に、想定外の応答を見つける安全装置になります。

メンタルヘルスは医療・福祉領域の話に見えますが、企業にも無関係ではありません。人事相談、従業員支援、カスタマーサポート、教育、保険、自治体窓口など、AIが人の悩みに触れる場面は増えています。

こうした用途では、モデルの性能だけでなく、利用規約、免責表示、エスカレーション先、ログの扱い、個人情報保護が重要です。AIが相談の初期整理を助けることは有益ですが、専門的判断を置き換える設計は避けるべきです。

ベンチマークは出発点であり、実際の利用ログから継続的に改善する仕組みが欠かせません。ユーザーの言い回しや文化的背景は多様で、テストセットだけではすべてを覆えません。

MentalHealthBenchの発表は、生成AI市場が高性能競争だけでなく、用途別の安全評価へ進んでいることを示しています。日本企業が相談系AIを導入する場合も、便利さより先に、危険な応答を避ける評価と運用体制を整える必要があります。