インターネットがマシン中心のアーキテクチャに再設計される理由

AIエージェントが実験段階から本格運用に移行する中で、AWS、Cloudflare、その他のクラウドプロバイダーは、人間のユーザーではなくマシンが生成するインターネットトラフィックが支配的になる未来に向けてクラウドインフラストラクチャを再設計している。

従来のWebインフラストラクチャは人間のブラウザアクセスパターンを前提に設計されていた。しかし、AIエージェントは異なるトラフィック特性を持つ。エージェント間の通信は高頻度で発生し、レスポンス時間の要求が厳しく、データ形式も人間向けのHTMLではなく構造化されたAPIレスポンスが中心となる。

この変化により、CDNのキャッシュ戦略、ロードバランサーの分散アルゴリズム、セキュリティポリシーの設計が根本的に見直されている。マシン対マシンの通信では、従来のセッション管理やCookieベースの認証ではなく、API キーやトークンベースの認証が主流になる。

（出典: The internet is being rebuilt for machines）

Amazon SageMaker MLflow の外部アクセス統合パターン

Amazon SageMaker MLflow への外部システム統合において、AWSは2つの主要なアクセスパターンを提供している。これらのパターンは、企業のセキュリティポリシーやインフラストラクチャ要件に応じて選択できる。

カスタムポータル統合パターンでは、React フロントエンドと Flask リバースプロキシを組み合わせたアーキテクチャを使用する。Application Load Balancer が単一のエントリーポイントとして機能し、HTTPS終端とトラフィックルーティングを処理する。React アプリケーションは /app パスから配信され、MLflow トラッキング UI を iframe で埋め込む。Flask プロキシサービスは AWS Signature Version 4 (SigV4) 認証を処理し、X-Frame-Options ヘッダーの管理も行う。

REST API プロキシパターンでは、MLflow SDK を直接使用できない環境向けに、Flask ベースのプロキシサービスが HTTPS アクセスを提供する。このパターンは、企業のセキュリティポリシーやネットワーク制限、レガシーシステムの制約により SDK を直接使用できない組織に適している。プロキシサービスは標準的な HTTPS リクエストを認証済み AWS API 呼び出しに変換し、SageMaker MLflow との通信を仲介する。

両パターンとも AWS CDK を通じてデプロイ可能で、組織の既存 SSO インフラストラクチャとの統合をサポートしている。

（出典: Build a custom portal with embedded Amazon SageMaker AI MLflow Apps）

（出典: Streamline external access to Amazon SageMaker MLflow using a REST API proxy）

API Gateway ドキュメント管理の実装手順

Amazon API Gateway では、API の各エンティティに対してドキュメントパーツを作成し、バージョン管理された API ドキュメントを生成できる。ドキュメント作成は API 開発プロセスの一部として統合され、異なるバージョンのドキュメントをアーカイブできる。

ドキュメントパーツの作成は、API Gateway コンソールの Documentation セクションから実行する。API エンティティをドキュメント化する場合、Documentation type で “API” を選択し、properties マップエディターで以下の形式を使用する：

{
  "info": {
    "description": "Your first API Gateway API.",
    "contact": {
      "name": "John Doe", 
      "email": "john.doe@api.com"
    }
  }
}

RESOURCE エンティティの場合は Documentation type で “Resource” を選択し、Path フィールドにパスを入力する。各ドキュメントパーツは個別に作成でき、未登録のリソースに対してもドキュメントを作成可能である。

ドキュメントの公開では、ドキュメントバージョンを API ステージに関連付け、ステージ固有のドキュメントスナップショットを外部 OpenAPI ファイルにエクスポートできる。API Gateway REST API、AWS SDK、AWS CLI、またはコンソールを使用してドキュメントを管理でき、外部 OpenAPI ファイルからドキュメントパーツをインポート・エクスポートすることも可能である。

（出典: Document an API using the API Gateway console）

（出典: Documentation for REST APIs in API Gateway）

まとめ

  • マシン中心インフラの活用: CDN キャッシュ戦略とロードバランサー設定をマシン対マシン通信に最適化することで、AIエージェント間の高頻度通信における レスポンス時間を改善できる
  • MLflow プロキシ統合の実装: Flask リバースプロキシと AWS CDK を組み合わせて SageMaker MLflow への外部アクセス基盤を構築すれば、既存 SSO インフラストラクチャを活用しながら ML チームの実験追跡環境を統合できる
  • API ドキュメント自動化の構築: API Gateway のドキュメントパーツ機能と OpenAPI エクスポートを組み合わせることで、API 開発と並行したドキュメント管理フローを確立し、ステージごとのドキュメントバージョニングを自動化できる