AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

AWS公式ブログがCodexとLiteLLMをECS上に構築する方法を詳解

公開:2026年9月4日, 最終更新:2026年9月4日

30秒サマリー

  • AWSがOpenAI CodexとLiteLLMをAmazon ECS・Bedrockで連携させるエンタープライズ向けセキュア構成を公式ブログで解説
  • LiteLLMをゲートウェイとして配置し、モデルアクセス制御・予算管理・レート制限・監査ログを一元化できる
  • 開発者へのマスターキー配布を不要にし、ユーザー・チーム単位のスコープドキーとIAM連携で内部統制を実現

何が起きたか

AWSマシンラーニング公式ブログは、OpenAI ChatGPT CodexをLiteLLMゲートウェイ経由でAmazon Bedrockに接続し、Amazon ECS(Fargate)上に展開する実装手順を解説した記事を公開した。

アーキテクチャの要点は、CodexとAmazon Bedrockの間にLiteLLMを「共有コントロールポイント」として挟む構成にある。開発者ワークステーション上のCodexがモデルリクエストを送ると、Application Load Balancer・AWS WAFを経由してFargate上のLiteLLMに到達し、LiteLLMがECSタスクロールを使ってBedrockを呼び出す。ローカルのツール実行ループはCodex側に残る。インフラコンポーネントとして、Amazon RDS(PostgreSQL)によるLiteLLM状態・使用量管理、AWS Secrets ManagerとKMSによるキー保管、CloudWatchによる監視、ECRによるイミュータブルコンテナイメージ管理が組み合わされる。

ガバナンス面では、開発者にはLiteLLMのマスターキーを配布せず、ユーザー・チーム単位でスコープドキーを発行する設計が示されている。このキーには許可モデルの限定、予算上限(例:30日で50ドル)、トークン/リクエスト毎分の上限が設定でき、生成されたキーはKMS暗号化されたSecrets Managerに書き込まれ、コマンドライン引数や端末には出力されない。

原文は、LiteLLMゲートウェイが必要なケースとして「ネイティブIAMとCloudTrailで要件を満たせない場合」を明示しており、直接Bedrock接続が最もシンプルな選択肢であるとも述べている。また、ゲートウェイを自社運用する場合は可用性・DBライフサイクル・バージョンアップ・インシデント対応・容量計画の責任が自社に帰属するとも明記されている。

原典ハイライト

原文は「LiteLLMはCodexのローカル承認を置き換えるのではなく、モデルの各ターンを統制する」と説明しており、ゲートウェイの役割をコードエージェントのモデルアクセス層の制御に限定している点を強調している。また「直接Bedrockアクセスが最も複雑性の低い選択肢」とも明記しており、ゲートウェイ導入は追加統制ニーズがある場合の選択肢として位置づけている。

出典: AWS Machine Learning Blog(公式ブログ)

So What?(なぜ重要か)

コーディングAIエージェントの企業導入において、個人実験フェーズから管理された組織展開フェーズへの移行に際して、モデルアクセスの可視化・コスト帰属・ポリシー適用が課題となる。本構成はその解決策の一つを具体的なリファレンス実装として示しており、AWSが企業レベルのAIガバナンス設計を支援する姿勢を明確にした。PortkeyなどのマネージドゲートウェイやIAM Identity Centerによる直接接続との比較検討材料も原文に含まれており、組織の統制要件に応じた選択が可能になる。

日本企業への示唆

コーディングAIエージェントの全社展開を検討する日本企業にとって、「誰がどのモデルをどれだけ使ったか」を証明できる体制の整備が急務になっている。本構成が示すように、LiteLLMゲートウェイをAWS環境内に自社運用すれば、開発者単位の予算管理・利用ログ・モデルアクセス制限を一元化でき、内部統制や監査対応に直結する。一方で、ゲートウェイの運用責任(可用性・バージョン管理・インシデント対応)は自社に帰属するため、SREや基盤チームの体制整備とセットで検討が必要だ。まず少人数チームでの検証にはネイティブIAM+CloudTrailの直接接続から始め、組織規模拡大に合わせてゲートウェイ導入を段階的に判断するアプローチが現実的とみられる。

背景・経緯

OpenAI CodexはコーディングタスクをAIエージェントとして自律的に実行するツールであり、リポジトリの理解・コード生成・テスト実行・多段階エンジニアリングタスクを担う。Amazon BedrockはOpenAIモデルを含む複数のモデルをAWS環境内から呼び出せるマネージドサービス。LiteLLMはオープンソースのAIゲートウェイで、複数モデルプロバイダーへの統一APIインターフェースと仮想キー・予算管理機能を提供する。原文には実装コードがGitHubリポジトリ(guidance-codex)として公開されていることが明記されている。