非同期とは？
AsyncはLeapcellによって管理される非同期サービスであり、完全なサーバーレスのエクスペリエンスを提供します。これは、さまざまなイベントに応じてコードを実行するイベント駆動型のサービスです。これらのイベントには、HTTPリクエスト、タイマー、メッセージキューなどが含まれます。
HTTPリクエストをAsyncエンドポイントに送信すると、リクエストをメッセージキューに書き込むイベントがトリガーされます。次に、Asyncにはメッセージキューからリクエストを取得してコードを実行するワーカープールがあります。このアプローチにより、サーバーを管理しなくても、さまざまなイベントに応じてコードを実行できます。
Asyncのアーキテクチャ図を以下に示します。
ユースケース
- 機械学習タスクの処理
- データ処理
- メール送信
概念
動的な並行性スケーリング
Asyncは、プラットフォームで構成したワーカーの数に基づいて、並行性を動的に調整します。レートを制御するために、ニーズに基づいてワーカーの数を調整できます。たとえば、ダウンストリームサービスにQPSの制限がある場合は、ワーカー数を調整してレートを制御できます。