開発・実装
2件 / 元の本文を表示
2. 【技術深掘り】AWS、400個のREST APIをAgentCore GatewayでMCPツール化した本番事例を公開
公開:10月29日|本番運用アーキテクチャ
Amazon Web Servicesが、MoEngageによるAgentCore Gatewayの実装事例を公開しました。
MoEngageは、7つのAWSリージョンに分散する約400個の社内REST APIを、10種類のAIエージェントから利用できるようにしています。
各APIを個別のMCPサーバーとして実装するのではなく、OpenAPI仕様をAgentCore Gatewayへ登録する方式を採用しました。これにより、推定約6か月分の基盤開発工数を削減しています。
なぜ重要か
AIエージェントの本番運用では、モデルの性能以上にツールの認可と社内APIへの安全な接続が問題になることがあります。
今回の事例は、その問題をAWSのマネージドサービスで解決した具体例です。
技術・実装ポイント
主要な構成は次のとおりです。
textAI Agent
↓
MCP Client
↓
VPC Interface Endpoint
↓
AgentCore Gateway
├─ IAM / SigV4認証
├─ Cedarによる認可
└─ Semantic Tool Search
↓
VPC Lattice
↓
社内REST API注目したい実装は3つあります。
1. OpenAPIからMCPツールを生成
既存のOpenAPI仕様にx-moe-mcpという拡張情報を追加します。
yamlx-moe-mcp:
expose:
external: false
internal: trueこれはMoEngage独自のOpenAPI拡張であり、AgentCoreの標準設定項目そのものではありません。
2. Cedarでツール単位の認可
AIエージェントごとにIAMロールを割り当て、Cedarポリシーによって利用可能なツールを制限します。
許可されていないツールは、モデルに渡す一覧からも除外されます。
3. Semantic Tool Search
400個のツール定義をすべてLLMへ渡す必要はありません。
モデルが必要な処理を自然言語で検索し、該当するツールだけを取得します。
これにより、コンテキストの消費量を抑えられます。
API・料金・利用条件
AgentCore Gatewayの公開料金は、API呼び出し1,000回当たり$0.005、ツール検索1,000回当たり$0.025です。
ツールのインデックス作成にも料金が発生します。さらに、VPC Latticeやバックエンドサービス、LLM推論などは別途課金されます。
実装上の注目点: MoEngageでは、テナントIDやユーザー権限をLLMが操作できるツール引数に含めず、認証済みの呼び出し元からヘッダーで伝達しています。
これはマルチテナントのAIエージェントを設計するうえで、特に参考になる方式です。
公式情報:AWS公式・400 APIの実装事例 / AgentCore料金表
3. NVIDIA Nemotron 3.5 Super VL — 120BモデルをAWS EKSで動かす実装ガイド公開
技術記事公開:10月29日|既存モデルの新しいAWS実装例
AWSが、NVIDIAのマルチモーダルモデル「Nemotron 3.5 Super VL」をEKSとSageMaker HyperPod EKSへデプロイする技術ガイドを公開しました。
Nemotron 3.5 Super VLは、総120BパラメータのMoEモデルで、推論時にアクティブになるのは12Bパラメータです。
テキスト、画像、文書、動画を入力でき、最大100万トークンのコンテキストに対応します。
なお、モデル自体は10月15日に公開済みです。今回の新着は10月29日のAWS向け実装ガイドです。
なぜ重要か
オープンウェイトモデルを自社インフラで運用する際の、GPU構成と性能測定方法が具体的に公開されたためです。
モデルの性能だけでなく、実際に必要なGPU台数を判断できます。
技術・実装ポイント
Nemotron 3.5 Super VLは、次の技術を組み合わせています。
| 技術 | 役割 |
|---|---|
| MoE | トークンごとに必要な専門ネットワークを選択 |
| Mamba-2 | 長い系列の効率的な処理 |
| Transformer Attention | 文脈間の関係を処理 |
| RADIO Vision Encoder | 画像・動画の理解 |
| Multi-Token Prediction | 推論高速化 |
特にMamba-2とMoEを組み合わせている点が興味深いところです。
アクティブパラメータ数を削減しながら、長いコンテキストを扱うための計算効率を高めています。
GPU要件
AWSが示したvLLM構成での最小GPU台数です。
| GPU | BF16 | NVFP4 |
|---|---|---|
| B200 / GB200 | 8 | 2 |
| B300 / GB300 | 4 | 1 |
| H200 | 8 | 4 |
| H100 | 16 | 8 |
NVFP4量子化によって必要なGPU台数を削減できます。
ただし、量子化による精度への影響や実効性能は、用途ごとに検証する必要があります。
API・料金: モデル重みを使用するセルフホスト方式では、モデルAPIのトークン従量料金ではなく、主にGPUインスタンス、ストレージ、ネットワークなどのインフラ費用が発生します。
AWSの実装例では、EKS、ECR、FSx for Lustre、EFA、NVIDIA Dynamo、vLLMを組み合わせています。
また、TTFT(最初のトークンまでの時間)とITL(トークン間の遅延)を別々に計測し、GPUの配置を最適化する方法も紹介されています。
公式情報:AWS公式技術ガイド / NVIDIA公式モデルカード