日立、フィジカルAI向け制御ガードレールを開発──安全制約を守りながら過度な停止を89％削減

日立製作所は、社会インフラ領域でフィジカルAIを安全に運用するためのガードレール技術を開発しました。AIが生成した制御指令をリアルタイムに監視・補正し、安全制約を満たしながら運用を継続する仕組みです。

自動走行システムのシミュレーションでは、安全制約を守りつつ過度な停止を89％削減できたとされています。ランキングでもロボティクスやPhysical AIへの関心が高く、今後の焦点は「動くAIをどう安全に止めずに運用するか」に移っています。

制御ガードレールとは何か

生成AIのガードレールは、文章生成で不適切な出力を抑える文脈で語られてきました。フィジカルAIでは、対象が機械、車両、設備、エネルギーシステムなど現実世界に広がります。誤った制御指令は、人や設備に直接影響するため、より厳しい安全設計が必要です。

日立の技術は、システム仕様書や構造情報からナレッジグラフを作成し、機器・機能・制御の関係をAIが扱いやすくします。そのうえで、事前のハザード分析や安全制約の抽出を支援し、実行時にはAIの制御指令を監視・補正します。

日本企業への意味

製造、物流、エネルギー、モビリティでは、人手不足と設備老朽化が同時に進んでいます。AIで運用を高度化したい一方、ミッションクリティカルな現場では、説明できない判断や過度な自律化は受け入れられにくいのが現実です。

安全制約を明示し、AIの判断を監視・補正できる仕組みは、現場導入の心理的・技術的ハードルを下げます。PoCでは動いたが本番化できない、という課題に対し、運用設計そのものを製品化する方向性が見えてきます。

課題は現場ごとの知識整備

ただし、ナレッジグラフや安全制約は自動で完璧に生まれるわけではありません。設備仕様、運用ルール、例外処理、過去事故、保守手順などをどこまで正確に整理できるかが鍵になります。

フィジカルAIの競争は、モデル性能だけでなく、現場知識を構造化し、安全に更新し続ける運用能力の競争です。日立の取り組みは、社会インフラでAIを使うための現実的な条件を示しています。

参考：AI Watch