30秒サマリー
- Orca SecurityはAWS協力のもと、自然言語をクラウドセキュリティクエリに変換するAI「Discovery AI」を構築
- 9段階パイプラインとRAGの組み合わせで、初期実装比でコスト90%削減・レイテンシ75%短縮を達成
- 900超のクラウドモデルを扱う複雑なクエリを、専門知識なしで15秒以内に処理可能にした
何が起きたか
Orca Securityは、同社のクラウドセキュリティプラットフォーム「Sonar」向けに、自然言語でクエリを生成するAIエージェント「Discovery AI」を構築した経緯と技術詳細を、AWSの公式機械学習ブログで解説した。Sonarは900種超のクラウドリソースモデルを対象とし、従来は厳密なモデル名の指定・18種の演算子の使い分け・親子関係のナビゲーションなど、深い専門知識を要するクエリ構築が必要だった。
初期の概念実証では、900超のモデル定義を含む全スキーマを単一プロンプトに詰め込む手法を採用した。出力品質は評価されたが、1ワークロードあたり約200万入力トークンのコスト、約60秒のレイテンシ、複雑クエリでの精度不足という3つの課題が顕在化した。
これを受けてOrcaチームはAmazon Bedrock上でRAGとスキーマ認識型クエリ生成を組み合わせた9段階ハイブリッドパイプラインを設計・導入した。各ステージに最適なモデルを割り当てる構成で、推論にはAnthropic Claude Haiku 4.5（モデル選択・クエリ生成）、Amazon Nova 2 Lite（ガードレール・バリデーション）、Amazon Titan（埋め込み生成）、Cohere Rerank 3.5（リランキング）をそれぞれ用いている。
結果として、初期ベースライン比でクエリコスト90%削減・入力トークン93%削減・レイテンシ75%削減を実現し、現在は1日数千クエリを平均15秒で処理している。また、プロダクトマネージャーや支援エンジニアが誤出力を修正してサンプルバンクへ反映できる内部ラベリングツールも整備し、継続的な精度改善の仕組みを構築している。
原典ハイライト
原文の核心は「900超モデルの全スキーマを単一プロンプトに詰め込む手法から、RAG＋スキーマ絞り込み＋複数モデル分散処理の9段階パイプラインへ移行することで、コスト・レイテンシ・精度の三課題を同時解決した」という設計上の知見。特に『Example Retrieval（上位20件取得→Rerank→上位5件絞り込み）が精度向上の最大レバーだった』という実証的な発見は、類似システムを構築する際の重要な指針となる。
出典: AWS Machine Learning Blog（公式ブログ）
So What?（なぜ重要か）
「大きなコンテキストに全情報を詰め込む」という直感的なアプローチが、コスト・速度・精度すべてで劣ることをプロダクション規模で実証した点が重要だ。RAGによるスキーマ絞り込みと、ステージごとに特性の異なるモデルを使い分けるアーキテクチャが、生成AIの業務適用における現実解であることが示された。また、単一APIで複数モデルにアクセスできるAmazon Bedrockの特性が、こうした複合パイプラインの実装コスト低減に貢献している点も注目に値する。
日本企業への示唆
社内に専門的なクエリ言語や複雑なデータモデルを持つシステムを抱える日本企業にとって、同様のアーキテクチャは参考になる。SIerやSaaS事業者がPoC段階で「精度は出るがコストとレイテンシが問題」という壁に当たるケースは多いが、本事例は『全情報投入』から『スキーマ絞り込み＋RAG＋ステージ別モデル選択』への移行が有効な突破口であることを示す。経営判断としては、PoC成功後の本番移行設計に段階的なパイプライン最適化の工数を最初から見込んでおくことが重要だ。また、社内ドメイン専門家がラベリングに継続参加できる運用体制の整備が、長期的な精度維持のカギとなる。
背景・経緯
Orca Securityはクラウド・コード・AIの文脈対応型セキュリティを提供するプロバイダー。同社のSonarはユーザーがクラウド全体のデータグラフを検索・フィルタリング・探索するためのドメイン固有クエリシステム。今回のAWSブログはOrcaとAWSの協業事例として、Discovery AIの設計思想・アーキテクチャ・評価手法を詳述したものであり、Discovery AI自体がいつ一般提供開始されたかは原文では明示されていない。
