アプリケーションで 応答ストリーミング を使用する AWSLambda 関数を監視して、各呼び出しのパフォーマンスと動作を瞬時インサイトに取得できます。Node.jsこのソリューションはAI モニタリングと統合されており、モデルの応答を追跡し、AI ワークロードに関連する観察データを収集できます。 これらの機能を使用すると、サーバーレス アプリケーションのパフォーマンスを最適化し、AI 主導のプロセスの包括的な監視を維持できます。
このドキュメントは次のことに役立ちます:
- 監視応答ストリーミングの設定Lambda関数
- レスポンスストリーミングLambda関数で利用可能なメトリクスとデータを理解する
- New Relic UIを使用して、応答ストリーミングLambda関数のパフォーマンスを監視および観察する方法を学びます。
Lambdaレスポンスストリーミングを設定する
前提条件
- Lambda関数が当社の互換性と要件を満たしていることを確認してください。
- Node.js で利用可能な最新の Lambda レイヤーを使用します。
Lambdaレスポンスストリーミングを設定する
Node.js Lambda関数の応答ストリーミング監視を有効にするには:
変更を保存し、関数をデプロイします。
デプロイメント後、Lambda New Relicプラットフォームで レスポンスのストリーミングデータを表示できます。詳細については、 Lambdaレスポンスのストリーミングデータへのアクセス」を参照してください。
Lambdaレスポンスストリーミングデータにアクセスする
プラットフォームで Lambdaレスポンスのストリーミングデータを表示するには:New Relic
one.newrelic.com > left navigation pane > All Capabilities > Serverless Functionsに移動します。
レスポンスストリーミングを使用する必要なLambda関数を選択します。
応答ストリーミングLambda関数の概要、呼び出し、CloudWatchメトリクス、ディストリビューティッド（分散）トレーシングを表示します。
More views [その他のビュー]セクションで、 AI Responses [AI 応答]をクリックします。
AI 応答の詳細については、 「AI 応答の表示」を参照してください。
応答ストリーミングの主要メトリクス
CloudWatch metrics [CloudWatch メトリクス]ページで、応答ストリーミングに関連する次のメトリクスを監視します。
- ストリーム送信バイト数: Lambda関数によってストリーム送信されたバイトの平均数を表示します。
- Streamed Outbound スループット: Lambda関数によってバイトがストリーミングアウトされる平均レートを表示します。
UI の詳細については、 「New Relic プラットフォームの概要」を参照してください。