• EnglishEspañol日本語한국어Português
  • ログイン今すぐ開始

この機械翻訳は参考用に提供されます。

英語版と翻訳版に矛盾がある場合は、英語版が優先されます。詳細については、このページ を参照してください。

問題を作成する

Javaエージェントです。Kafkaメッセージキューの計測

New Relic Java エージェントは、 Kafka's Java clients library からデータを自動的に収集します。Kafka は大量のデータを生成する高性能なメッセージングシステムであるため、アプリの特定のスループットやユースケースに合わせてエージェントをカスタマイズすることができます。

このドキュメントでは、3種類のKafkaデータを収集して表示する方法を説明しています。

ヒント

また、Kafka との統合もあります。詳細については、 Kafka 監視統合 を参照してください。

要件

Kafka クライアントのインスツルメンテーションは、Java エージェント バージョン 4.12.0 以降で使用できます。Kafka ストリーム インストルメンテーションは、Java エージェント バージョン 8.1.0 で使用できます。以上。サポートされているすべての Kafka ライブラリを確認するには、 Java の互換性と要件のページを確認してください。Kafka Streams は Kafka クライアント上で実行されるため、Kafka クライアントに適用されるすべてのインストルメンテーションは Streams にも適用されることに注意してください。

Kafkaメトリクスの表示

インストール後 、エージェントは、メッセージングレート、レイテンシー、ラグなどの情報を含むリッチなKafkaメトリクスを自動的にレポートします。Javaエージェントは、 Kafkaのコンシューマーおよびプロデューサーのすべてのメトリクス を収集します(ただし、コネクトおよびストリームのメトリクスは収集しません)。

これらのメトリクスを表示するには、カスタムダッシュボードを作成します。

  1. New Relic metric explorer にアクセスします。

  2. メトリック エクスプローラーを使用してメトリックを見つけます。メトリクスを見つけることができるいくつかのフォルダーを次に示します。

    • Kafka メトリクス:

      MessageBroker/Kafka/Internal/KafkaMetricName

      たとえば、 request-rate 指標は次のようになります。

      MessageBroker/Kafka/Internal/consumer-metrics/request-rate
    • カフカストリーム:

      Kafka/Streams/KafkaStreamsMetricName

      たとえば、 poll-latency-avg 指標は次のようになります。

      Kafka/Streams/stream-thread-metrics/poll-latency-avg
    • カフカ接続:

      Kafka/Connect/KafkaConnectMetricName

      たとえば、 connector-count 指標は次のようになります。

      Kafka/Connect/connect-worker-metrics/connector-count
  3. Add to dashboard をクリックして、モニターしたいメトリクスをダッシュボードに追加します。

ヒント

Kafka のコンシューマー、プロデューサー、およびストリームのメトリックの完全なリストについては、 Kafka のドキュメント を参照してください。これらのドキュメントのメトリックは、JMX を介して検索できます。ドキュメントに記載されているすべてのメトリクスが New Relic にエクスポートされるわけではないことに注意してください。これは、次のいずれかの理由による可能性があります。

  • このメトリクスは、実際には Kafka クライアントまたは Kafka ストリームによって生成されるわけではありません。これは、古いバージョンのクライアントまたはストリームを使用しているか、Kafka ライブラリの設定方法と使用方法に基づいていることが原因である可能性があります。
  • メトリックが数値でないか、その値が NaNです。New Relic は、数値を持つメトリクスのみを受け入れます。

Kafkaイベントコレクションの有効化

メトリックのタイムスライスデータではなく、イベントデータを収集するようにエージェントを構成することができます(メトリックのタイムスライスとイベントデータの違いについては、 データ収集 )。これにより、 NRQL を使用して、デフォルトの Kafka メトリクスをフィルタリングおよびファセットすることができます。有効にすると、エージェントは 30 秒ごとに 1 つの Kafka イベントを収集します。このイベントには、 Kafka コンシューマーからのすべてのデータと、前回のイベント以降に取得したプロダク トメトリクス が含まれます。

Kafka ストリームを使用している場合、エージェントは、前のイベント以降にキャプチャされた Kafka ストリーム メトリック からのすべてのデータを含む別のイベントを生成します。イベントも 30 秒ごとに収集されます。

重要

エージェントは収集サイクルごとに最大 2000 のイベントを記録しますが、この値はmax_samples_storedで変更できます。Kafka イベント データは、このプールに含まれています。recordCustomEvent() API 呼び出しを使用してカスタム イベントを New Relic に送信し、2000 を超えるイベントを送信すると、エージェントは一部の Kafka またはカスタム イベントを破棄します。

Kafkaのイベント収集を有効にするには

  1. kafka.metrics.as_events.enabled要素をnewrelic.yml構成ファイルに追加します。

    kafka.metrics.as_events.enabled: true
  2. JVMを再起動します。

  3. イベント エクスプローラーを使用して、 KafkaMetricsイベント タイプにある Kafka イベントを表示します。または、 NRQLを使用してイベントを直接クエリします。例えば:

    SELECT average('producer-metrics.record-send-rate') from KafkaMetrics SINCE 30 minutes ago timeseries

    Kafka ストリーム メトリクスをクエリする場合は、 KafkaStreamsMetrics イベント タイプを使用してストリーム固有のメトリクスにアクセスします。

重要

タイムスライス メトリックとして New Relic に送信できる Kafka メトリックの種類に関する制限は、イベントにも適用されることに注意してください。つまり、非数値および NaN メトリックはイベント属性として含まれません。

Kafka ノードのメトリクスを有効にする

Kafka メトリクスの粒度をさらに高める、Kafka クライアント用の代替インスツルメンテーション モジュールがあります。このインストルメンテーション モジュールはエージェント 8.6.0 以降で利用可能で、デフォルトでは無効になっています。

このインストルメンテーション モジュールを有効にするには、既存のインストルメンテーション モジュールを無効にし、次の内容を newrelic.yml 構成ファイルに追加して新しいインストルメンテーション モジュールを有効にする必要があります。

class_transformer:
kafka-clients-metrics:
enabled: false
kafka-clients-node-metrics:
enabled: true

Kafka 構成イベントを有効にする

kafka-clients-config インストルメンテーション モジュールは、Kafka クライアント構成の内容を含むイベントを定期的に送信します。このモジュールはエージェント 8.6.0 以降で利用可能で、デフォルトでは無効になっています。

kafka-clients-config を有効にするには、以下を newrelic.yml 構成ファイルに追加します。

class_transformer:
kafka-clients-config:
enabled: true

Kafka Streams トランザクションを有効にする

Kafka Streams を使用している場合、デフォルトではトランザクションは有効になりません。これは、Kafka アプリケーションのスループットが高くなる傾向があるため、不要なオーバーヘッドを防ぐためです。

JMS トランザクションとは異なり、Kafka Streams トランザクションはレコードごとに処理されません。代わりに、Kafka コンシューマーがレコードをポーリングし、結果のデータが処理されるときにトランザクションが開始されます。

トランザクションを作成したい場合は、 kafka-streams-spans モジュールを有効にする必要があります:

class_transformer:
kafka-streams-spans:
enabled: true

Kafka Connect トランザクションを有効にしました

Kafka Connect を使用している場合、デフォルトではトランザクションは有効になりません。Kafka アプリケーションはスループットが高い傾向があるため、これは不要なオーバーヘッドを防ぐためです。

Kafka Connect トランザクションは、シンク/ソース タスクの反復ごとに記録されます。シンク タスクの場合、トランザクションは、Kafka コンシューマーのポーリング、各メッセージの変換、およびターゲットへのデータの送信で構成されます。ソース タスクの場合、トランザクションは、ターゲットからの読み取り、データのメッセージへの変換、Kafka プロデューサによる各メッセージの送信で構成されます。

これらのトランザクションを収集したい場合は、 kafka-connect-spans モジュールを有効にする必要があります。

class_transformer:
kafka-connect-spans:
enabled: true

Kafkaの分散型トレースの有効化

Java エージェントは、Kafka クライアントから 分散トレースを 収集することもできます。Kafka Streams は Kafka クライアント上で実行されるため、分散トレースを管理する手順も適用されます。トレースを有効にしても、エージェントの通常の操作には影響しません。 Kafka からのメトリックまたはイベント データは引き続きレポートされます。

実現する前に考慮すべき影響と要件

  • インスツルメンテーションは、メッセージヘッダーに150~200バイトのペイロードを追加します。 Kafkaメッセージが非常に小さい場合、トレースは大きな処理およびストレージのオーバーヘッドを追加します。このペイロードサイズの追加により、Kafkaのメッセージサイズ制限を超えると、Kafkaがメッセージをドロップする可能性があります。このため、本番環境で有効にする前に、開発環境でKafka分散トレースをテストすることをお勧めします。
  • 分散トレーシングは、Kafkaクライアントのバージョン0.11.0.0以降でのみ利用可能です。
  • 以前にアプリで distributed tracing を有効にしていない場合は、有効にする前に Transition guide をお読みください。
  • Kafkaメッセージヘッダーを介してW3Cトレースコンテキストを伝播するには、Java agent 6.4.0でリリースされたAPIの詳細について、 distributed tracing API usage guide を参照してください。なお、Kafkaメッセージに追加のヘッダを追加すると、ペイロードサイズがさらに大きくなります。これらのAPIの動作を確認するには、 Using Java agent trace APIs with Kafka を参照してください。
  • Kafka Streams を使用している場合は、スパン インストルメンテーション モジュールを有効にする必要があります ( Kafka Streams トランザクション セクションを参照してください)。トランザクションはレコードごとに記録されないため、分散トレース ヘッダーの受け入れは 1 つのレコードに対してのみ機能します。

これを有効にする完全なプロセスを以下に説明しますが、大まかに言えば、次の基本的な手順が含まれます。1) エージェント構成を介してトレースを有効にし、2) Java エージェント API を呼び出してプロデューサー側とコンシューマー側の両方でトランザクションを計測します。

Kafkaから分散型トレースを収集する。

Copyright © 2024 New Relic株式会社。

This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.