30秒サマリー
- ChatGPT-4oなど主要LLM5種が、個別閾値未満でも複数センサーが同時上昇する複合危険シナリオをほぼ検知できないことが実証研究で判明
- 単一センサーの閾値違反は精度97〜100%で検知できる一方、複合センサー評価では正解率がほぼゼロに
- 製造・インフラ現場でのAI安全監視システム導入において、設計上の根本的な盲点が存在する可能性が示された
何が起きたか
arXivに投稿された論文（著者：Faizan Iqbal、2026年5月25日受理）は、ChatGPT-4o、Gemini 2.5 Flash、DeepSeek、Kimi、Llama 3.1 8Bの5モデルを対象に、物理的ハザードの評価能力を系統的にベンチマークした結果を報告している。
評価は「複数センサーの統合評価」「応答の比例性」「パターン識別」の3カテゴリ、計60シナリオ・1,800回のAPIコールを温度パラメータ0.0（決定論的設定）で実施した。単一センサーが安全閾値を単独で超えるシナリオでは、全モデルが0.975〜1.000という高精度を示した。
一方、複数センサーがそれぞれ個別の安全閾値を下回りながら同時に上昇している状況（複合的危険）については、全5モデルが予防的な警告をほぼ出力しなかった。複合センサー評価（カテゴリA）のスコアはQ2で0.000〜0.208、Q3で0.000〜0.592にとどまり、単一センサー評価との間に大きな乖離が確認された。また、データの提示形式について、構造化された表形式が平易な散文形式より一貫して優れているという結果は得られず、ChatGPT-4oに限っては散文形式のほうが統計的に有意に（p=0.001）性能が高かった。
原典ハイライト
「個別のセンサーがそれぞれ安全閾値を超えていなくても、複数センサーが同時に上昇している状況では、テストした全モデルが一貫して予防的警告を発しなかった」——これが本論文の核心的発見であり、単一センサー評価での高精度と対照をなす。
出典: arXiv cs.AI（論文）
So What?（なぜ重要か）
LLMは「ルールに基づく単純な閾値判定」は得意でも、「複数要因が組み合わさった複合リスクの推論」には現時点で根本的な限界がある可能性を示す研究結果（編集部分析）。物理的安全が求められる現場でLLMをモニタリングシステムの主要判断エンジンとして採用する場合、このギャップは重大な設計リスクとなりうる。
日本企業への示唆
製造・エネルギー・インフラ分野でLLMを異常検知や安全監視に活用しようとしている日本企業は、導入前に「複合条件下での挙動検証」を必須プロセスとして組み込むべきとみられる（編集部）。個別センサーの閾値チェックでの高精度を根拠に全面採用すると、複合的な危険状態を見逃すリスクがある。既存のルールベースシステムとのハイブリッド構成や、複合シナリオを含む独自ベンチマークでの事前評価が現実的な対策として考えられる。
背景・経緯
LLMの産業応用が拡大する中、物理的な安全監視（温度・圧力・振動など複数センサーの統合判断）へのAI活用ニーズが高まっている。本研究は、こうした用途におけるLLMの能力を体系的に評価した実証研究として位置づけられる。ベンチマークデータセットや評価コード、生データは論文に記載のURLで公開されているとされる。
