30秒サマリー
- AnthropicがAIモデル「Claude Fable 5」の再展開に際し、サイバーセキュリティ用途の分類基準とジェイルブレーク重大性評価枠組みを公式公開
- 禁止・高リスク・低リスク・良性の4カテゴリで用途を分類し、安全分類器（classifier）の動作設計を詳細に開示
- ジェイルブレーク対策では研究者向けHackerOneプログラムも開設し、産官学・市民社会との標準化議論を呼びかけ
何が起きたか
Anthropicは2026年7月2日、AIモデル「Claude Fable 5」のグローバル再展開を機に、サイバーセキュリティ安全対策の詳細と、ジェイルブレーク重大性評価の初期草案を公式ブログで公開した。
サイバーセキュリティ用途は、その多くが「デュアルユース（善悪両用）」という特性を持つとして、Anthropicは全面禁止ではなく4カテゴリによる分類管理を採用した。「禁止」（ランサムウェア開発・マルウェア配布・C2インフラ構築など）と「高リスクデュアルユース」（ペネトレーションテスト・エクスプロイト開発・権限昇格など）は原則ブロック。「低リスクデュアルユース」（OSSインテリジェンス・一般的な脆弱性発見など）は主に許可しつつ誤検知を抑えるための「安全マージン」として一部をブロック。「良性利用」は監視しつつ許可する設計とした。なお、Fable 5では安全マージンを従来モデルより広く設定している。
ジェイルブレーク（AIの安全機能を迂回する異常なプロンプト）については、重大性を統一的に表現する共通枠組みがこれまで存在しなかったとして、Anthropicはパートナー「Glasswing」との協働による初期草案を公開した。同社はこの枠組みを通じ、政府・産業界・学術・市民社会が一貫した言語でリスクを議論できる基盤整備を目指すとしている。また、セキュリティ研究者がFable 5のジェイルブレークを報告できるHackerOneプログラムも新設した。フィードバックはcyber-safeguards@anthropic.comで受け付けている。
原典ハイライト
原文で特に重要な点は、「禁止」カテゴリの根拠として、攻撃者へのメリットが防御側のメリットを大幅に上回る「非対称性」を判断基準に据えていること。また高リスクデュアルユースについては、ペネトレーションテスト等の正当な業務であっても、「誰が・どのような権限のもとで実施するか」というコンテクストを確認できる仕組みが整うまでブロックする方針を明示した点が挙げられる。脆弱性発見については、他の広く流通するモデルが既に実施できるレベルは許可し、それを超える「高度な発見能力」のみを制限するという段階的アプローチを採用している。
出典: Anthropic News（公式ブログ）
So What?（なぜ重要か）
AIモデルのサイバーセキュリティ用途に関する「許可・ブロックの線引き」が、開発者自身の手で体系的に文書化・公開されたことは業界として初期段階にある動きであり、今後の業界標準や規制論議の参照点になり得る。ジェイルブレーク重大性の共通枠組みは、政府との政策対話や、AIセキュリティに関する契約・SLA上の用語統一にも影響を及ぼす可能性がある。AI安全対策が「ブラックボックス」から「説明可能な分類基準」へ移行しつつあることを示す事例でもある。
日本企業への示唆
日本企業がAnthropicのAPIやClaudeベースのサービスをセキュリティ業務（脆弱性診断・SOC支援・ペネトレーションテスト補助など）に活用する場合、今回公開された4カテゴリの分類基準に照らして、自社ユースケースが「高リスクデュアルユース」に該当しないかを事前確認することが不可欠となる。特にペネトレーションテストや権限昇格の検証など、正当な業務であっても現状はブロック対象となる可能性があり、PoC（概念実証）段階での動作検証を推奨する。また、社内AI利用ポリシーの策定においてはAnthropicの「デュアルユース4分類」を参考枠組みとして活用することで、情報セキュリティ部門との合意形成がしやすくなるとみられる。ジェイルブレーク対策への取り組みを積極的に情報開示する姿勢は、AI利用の透明性をステークホルダーに説明する上でのモデルケースとしても参考になる。
背景・経緯
Claude Fable 5は一度デプロイ後に再展開された経緯があり、本記事はその再展開に合わせた情報開示の一環。Anthropicは以前の投稿でも「安全マージン」の概念を説明しており、今回はその詳細補足と新たなジェイルブレーク枠組みを追加公開した。パートナー「Glasswing」との協働についての詳細は原文では言及がない。HackerOneを活用したバグバウンティ的アプローチはセキュリティ業界では標準的な手法であり、AnthropicはこれをAIジェイルブレーク発見に応用している。
