AnthropicがAIエージェント自律性を実測──「長く任せる」時代に必要な監督設計

Anthropicは、Claude Codeと公開APIにおける人間とAIエージェントのやり取りを分析し、実運用でどの程度の自律性が与えられているかを公開しました。最長クラスのClaude Codeセッションでは、停止までの作業時間が3カ月で25分未満から45分超へ伸びたとしています。

また、経験豊富なユーザーほどauto-approveを使う割合が高まる一方、必要な場面では割り込みも増えると報告しています。これは、監督が「毎回確認する」形から、「任せつつ重要点で介入する」形へ移っていることを示します。

自律性は便利さとリスクを同時に増やす

エージェントが長く作業できるほど、開発や調査の生産性は高まります。一方で、誤った前提で長時間進む、権限の広い操作を実行する、リスクの高い領域へ踏み込む可能性も増えます。

企業導入での実務ポイント

AIエージェントの安全性は、モデル単体ではなく、製品に組み込まれた監視基盤で決まります。ログ、権限、承認、ロールバック、異常検知、利用者教育をまとめて設計する必要があります。

Anthropicの研究は、エージェント活用が実験段階を超えつつあることを示しています。次の競争軸は、どれだけ賢く任せられるかではなく、どれだけ安全に任せ続けられるかです。

参考：Anthropic公式研究 / Anthropic Clio / Anthropic AI espionage