公開：2026年9月13日, 最終更新：2026年9月13日
30秒サマリー
- Anthropicの脅威インテリジェンスチームが2025年12月〜2026年8月の悪用事例をまとめた報告書を公開した
- サイバー攻撃・監視・生物学的悪用・詐欺など7分野で、国家支援グループを含む悪用者によるClaudeの不正利用を検知・阻止
- モデルの高度化に伴いリスクは増大するとし、業界・政府との情報共有を通じた集団的防衛の重要性を訴える
何が起きたか
Anthropicは2026年9月、同社の脅威インテリジェンスチームがまとめた最新の悪用対策レポートを公式サイトで公開した。報告対象期間は2025年12月から2026年8月の約8カ月間で、サイバー作戦、影響工作、監視活動、詐欺・スキャム、生物学的悪用、通常兵器開発、モデルの不正蒸留（distillation）の7分野にわたる事例が含まれる。
悪用者の属性として、国家の支援を受けているとみられるグループ、金銭目的の犯罪者、商業用スパイウェアベンダー、国家のプロパガンダ機関、政治的動機を持つ個人が挙げられている。具体的な事例としては、ユーザーを詐欺にかける偽出会い系アプリのネットワークや、反体制派の特定・監視を目的とした監視システムの構築などが報告されている。
利用されたモデルはClaude Haiku、Sonnet、Opusの各モデルとされ、Claude FableおよびMythosクラスのモデルは、不正蒸留の1事例を除いて悪用されなかったと明記されている。Anthropicは検知した悪用事案の活動を阻止し、得られた知見をセーフガード強化に活用するとともに、必要に応じて当局や業界パートナーと情報を共有した。
Anthropicは2025年3月、8月、11月にも同様の脅威報告書を公開しており、今回はその最新版にあたる。同社は、モデルの能力が高まるほど悪用リスクも増すとの認識を示し、AI開発者と社会的防衛機関が連携して安全性を高めていく必要性を強調している。
原典ハイライト
報告書は「これらのケースは典型的な悪用ではなく、これまでに特定した中で最も注目すべき新規の脅威活動の事例だ」と位置づけており、高度かつ執拗な脅威アクターが継続的にセーフガードをテストし回避を試みていると明かしている。
So What?（なぜ重要か）
高度な攻撃を行うのに、高度な攻撃者である必要がなくなってきたことを、AI開発企業自身が公式に認めた点が重要だ。国家支援が疑われるグループや国家機関に関連するアクターを含む広範な悪用が報告されており、AI安全性はもはや技術的な品質管理の問題にとどまらず、地政学・安全保障の問題へと接続している。Anthropicが事例を公開・共有する姿勢を続けることで、業界全体のセーフガード水準が引き上げられる可能性がある一方、公開情報が悪用者側の「研究材料」になりうるリスクも存在する。
日本企業への示唆
日本企業がClaudeをはじめとする生成AIをAPI経由で自社サービスに組み込む場合、悪用リスクへの対応は「ベンダー任せ」では不十分になりつつある。監視・詐欺・サイバー攻撃支援といった悪用パターンを把握し、生成AIを組み込んだ自社サービスで、不審な利用パターンや大量・自動化された悪用を検知する仕組みを設けることが求められる。また、政府・ISACなど業界横断の情報共有枠組みへの参加を検討することで、Anthropicが実践している集団的防衛の恩恵を受けやすくなる。生成AI利用ポリシーの整備とともに、脅威インテリジェンスを経営・リスク管理レベルで把握する体制づくりの重要性が増している。
背景・経緯
Anthropicは2025年3月・8月・11月にも同様の脅威レポートを公開しており、定期的な情報開示を継続している。今回は4回目の報告にあたり、対象期間・ハーム分野ともに拡張されている。Claude Fable・Mythosクラスという原文に記載のあるモデル名については、本誌では原文記載の事実として言及するにとどめ、詳細は原文に依拠する。
