Les intégrations New Relic avec la Google Cloud Platform (GCP) en incluent une qui transmet les données de Google Cloud Vertex AI à New Relic. Ce document explique comment activer l'intégration GCP Vertex AI et décrit les données qu'elle signale.
Caractéristiques
Vertex AI est la plateforme unifiée de Google Cloud pour créer, déployer et gérer des modèles d’apprentissage automatique et des applications d’IA générative. L’intégration de New Relic Vertex AI collecte des métriques de performance, de débit, de latence et d’utilisation des ressources à travers les emplacements, les points de terminaison, les index, les magasins de fonctionnalités et les magasins de fonctionnalités en ligne.
Activer l'intégration
Pour activer l’intégration, suivez les procédures standard pour connecter votre service GCP à New Relic:
- Se connecter avec la fédération d'identité de workload (Workload Identity Federation) (recommandé)
- Se connecter avec un compte de service ou un compte utilisateur
Fréquence des sondages
Les intégrations New Relic interrogent vos services GCP selon un intervalle d’interrogation qui varie selon l’intégration. La fréquence d’interrogation pour Google Cloud Vertex AI est de 5 minutes. La résolution est de 1 point de données chaque minute.
Fédération d'identité de workload (Workload Identity Federation)
Rechercher et utiliser des données
Une fois que vous avez activé l’intégration, vos ressources Vertex AI apparaissent sous forme d’entités dans l’explorateur d’entités New Relic. Pour voir les dashboards et gérer les services, accédez à one.newrelic.com > All capabilities > Infrastructure > GCP.
Toutes les métriques Vertex AI disponibles dans le monitoring cloud de GCP sont collectées en tant que métriques dimensionnelles dans le type d'événement Metric. Des métriques supplémentaires en dehors de ce tableau sont collectées automatiquement. Consultez la documentation de Google sur les métriques Vertex AI pour obtenir la liste complète.
Entité
données métriques
Principales métriques — Emplacement
Nom métrique | Unité | Description |
|---|---|---|
| Compter | Nombre de jobs de pipeline actuellement en cours d'exécution dans l'emplacement. |
| Compter | Nombre de tâches de pipeline actuellement en cours d'exécution dans l'emplacement. |
| Compter | Nombre de requests de prédiction en ligne par projet et par modèle de base. |
| Compter | Utilisation actuelle du quota pour les requests de prédiction en ligne par modèle de base. |
| Compter | Limite de quota actuelle pour les requests de prédiction en ligne par modèle de base. |
| Compter | Nombre de tentatives ayant dépassé le quota de requests de prédiction en ligne. |
| Compter | Jetons d’entrée de prédiction en ligne par minute par projet par modèle de base. |
| Compter | Jetons de sortie de prédiction en ligne par minute par projet par modèle de base. |
| Compter | Total des jetons servis par les modèles d’éditeur dans l’emplacement. |
| Millisecondes | Latence jusqu'au premier jeton de réponse des modèles de l'éditeur. |
Pour consulter la liste complète des métriques d’emplacement, consultez la documentation sur les métriques de Vertex AI de Google.
Principales métriques — point de terminaison
Nom métrique | Unité | Description |
|---|---|---|
| Pour cent | Fraction moyenne de temps au cours de la dernière période d’échantillonnage pendant laquelle les accélérateurs effectuaient un traitement actif. |
| Octets | Mémoire de l’accélérateur allouée par le réplica de modèle déployé. |
| Pour cent | Utilisation du CPU du réplica de modèle déployé. |
| Octets | Mémoire utilisée par le réplica de modèle déployé. |
| Octets | Octets réseau reçus par le réplica de modèle déployé. |
| Octets | Octets réseau envoyés par la réplique de modèle déployée. |
| Compter | Nombre de prédictions en ligne servies par le point de terminaison. |
| Millisecondes | Latence de prédiction en ligne du modèle déployé. |
| Compter | Nombre d’erreurs de prédiction en ligne renvoyées par le point de terminaison. |
| Compter | Nombre de réponses de prédiction en ligne renvoyées par le point de terminaison, segmentées par code de réponse. |
| Compter | Nombre de réplicas actifs servant le modèle déployé. |
| Compter | Nombre cible de réplicas actifs pour le modèle déployé. |
Pour obtenir la liste complète des métriques du point de terminaison, consultez la documentation de Google sur les métriques Vertex AI.
Métriques clés — Index
Nom métrique | Unité | Description |
|---|---|---|
| Compter | Nombre actuel de shards soutenant l’index. |
| Compter | Nombre de requests de mise à jour de flux envoyées à l’index. |
| Compter | Nombre de points de données insérés ou mis à jour, ou supprimés avec succès via la mise à jour du flux. |
| Millisecondes | Latence entre une réponse de mise à jour de flux et la prise d’effet de la mise à jour. |
Pour la liste complète des métriques d'index, consultez la documentation sur les métriques Vertex AI de Google.
Principales métriques — Featurestore
Nom métrique | Unité | Description |
|---|---|---|
| Pour cent | Charge CPU moyenne sur les nœuds du stockage en ligne Featurestore. |
| Pour cent | Charge CPU sur le nœud le plus sollicité dans le stockage en ligne Featurestore. |
| Compter | Nombre de nœuds provisionnés pour le stockage en ligne Featurestore. |
| Compter | Nombre d’entités mises à jour dans le stockage en ligne de Featurestore. |
| Compter | Nombre de requests de service en ligne traitées par le Featurestore, à facettes par EntityType. |
| Millisecondes | Latence des requêtes de service en ligne au niveau du Featurestore, répartie par EntityType. |
| Octets | Taille de la request de service en ligne dans le Featurestore, segmentée par EntityType. |
| Octets | Taille de la réponse de service en ligne au niveau du Featurestore, facettée par EntityType. |
| Octets | Total des données stockées dans le Featurestore. |
| Octets | Octets facturables traités pour les données hors ligne de Featurestore. |
| Compter | Nombre de requests d’écriture en continu traitées dans le stockage hors ligne. |
| Secondes | Temps écoulé entre l’appel de l’API d’écriture en continu et le moment où l’enregistrement atteint le stockage hors ligne. |
Pour consulter la liste complète des métriques de featurestore, reportez-vous à la documentation de Google sur les métriques Vertex AI.
Métriques clés — Fonctionnalité boutique en ligne
Nom métrique | Unité | Description |
|---|---|---|
| Compter | Nombre de requests de service en ligne traitées par le Feature Online Store, réparties par FeatureView. |
| Millisecondes | Latence des requêtes de service en ligne au niveau du Feature Online Store, segmentée par FeatureView. |
| Octets | Taille de la réponse de service en ligne dans le magasin de fonctionnalités en ligne, répartie par FeatureView. |
| Compter | Nombre de synchronisations actuellement en cours d'exécution dans le magasin en ligne de fonctionnalités. |
| Secondes | Âge des données servies par le magasin en ligne de fonctionnalités. |
| Compter | Répartition des enregistrements dans le magasin en ligne de fonctionnalités par horodatage synchronisé. |
| Pour cent | Charge CPU moyenne sur les nœuds Bigtable soutenant le magasin en ligne de fonctionnalités. |
| Pour cent | Charge du CPU sur le nœud Bigtable le plus sollicité prenant en charge le magasin en ligne de fonctionnalités. |
| Compter | Nombre de nœuds Bigtable soutenant le magasin en ligne de fonctionnalité. |
| Octets | Total des données stockées dans le magasin en ligne de fonctionnalités. |
Pour obtenir la liste complète des métriques de magasin de fonctionnalités en ligne, consultez la documentation sur les métriques Vertex AI de Google.
Principales métriques — tâche de Pipeline
Nom métrique | Unité | Description |
|---|---|---|
| Secondes | Secondes d’exécution de la tâche de pipeline en cours d’exécution, de la création à la fin. |
| Compter | Nombre total de tâches de pipeline terminées dans le job de pipeline. |
Pour la liste complète des métriques de tâche de pipeline, consultez la documentation sur les métriques Vertex AI de Google.
Compte de service ou compte utilisateur
Rechercher et utiliser des données
Après avoir activé l'intégration et attendu quelques minutes (en fonction de la fréquence d'interrogation), les données apparaîtront dans l'UI de New Relic. Pour rechercher et utiliser vos données, y compris les liens vers vos et vos paramètres d'alerte, accédez à one.newrelic.com > All capabilities > Infrastructure > GCP > (select an integration).
Les données sont attachées aux types d’événements suivants :
Entité | Type d'événement | Fournisseur |
|---|---|---|
Point de terminaison |
|
|
magasin de fonctionnalités |
|
|
Fonctionnalité Boutique en ligne |
|
|
Emplacement |
|
|
Indice |
|
|
PipelineJob |
|
|
Pour en savoir plus sur l’utilisation de vos données, consultez Comprendre et utiliser les données d’intégration.
Données du point de terminaison VertexAI
métrique | Unité | Description |
|---|---|---|
| Pour cent | Fraction moyenne de temps au cours de la période d'échantillonnage précédente pendant laquelle les accélérateurs étaient en cours de traitement actif. |
| Octets | Quantité de mémoire accélératrice allouée par la réplique du modèle Dél. |
| Compter | Nombre d'erreurs de prédiction en ligne. |
| Octets | Quantité de mémoire allouée par la réplique du modèle Décal et actuellement utilisée. |
| Octets | Nombre d'octets reçus sur le réseau par la réplique du modèle Déploy. |
| Octets | Nombre d'octets envoyés sur le réseau par la réplique du modèle déployé. |
| Compter | Nombre de prédictions en ligne. |
| Millisecondes | Latence de prédiction en ligne du modèle déployé. |
| Millisecondes | Latence de prédiction en ligne du modèle de déploiement privé. |
| Compter | Nombre de répliques actives utilisées par le modèle déployé. |
| Compter | Nombre de codes de réponse de prédiction en ligne différents. |
| Compter | nombre cible de répliques actives nécessaires pour le modèle déployé. |
Données du magasin de fonctionnalités VertexAI
métrique | Unité | Description |
|---|---|---|
| Pour cent | La charge CPU moyenne pour un nœud dans le stockage en ligne Featuresstore. |
| Pour cent | La charge CPU pour le nœud le plus chaud du stockage en ligne Featuresstore. |
| Compter | Le nombre de nœuds pour le stockage en ligne Featuresstore. |
| Compter | Numéro d'entité mis à jour sur le stockage en ligne Featuresstore. |
| Millisecondes | Latence de service en ligne par EntityType. |
| Octets | Taille de la demande par EntityType. |
| Compter | Nombre de services en ligne de Featuresstore par EntityType. |
| Octets | Taille de la réponse par EntityType. |
| Octets | Nombre d'octets facturés pour les données hors ligne traitées. |
| Octets | Octets stockés dans Featuresstore. |
| Compter | Nombre de requests d'écriture en streaming traitées pour le stockage hors ligne. |
| Secondes | Temps (en secondes) écoulé depuis que l'API d'écriture est appelée jusqu'à ce qu'elle soit écrite dans le stockage hors ligne. |
Données de VertexAI FeatureOnlineStore
métrique | Unité | Description |
|---|---|---|
| Compter | Nombre de portions par FeatureView. |
| Octets | Taille de la réponse de diffusion par FeatureView. |
| Millisecondes | Latence de service en ligne par FeatureView. |
| Millisecondes | Nombre de synchronisations en cours d'exécution à un moment donné. |
| Secondes | Mesure de l'âge des données de service en secondes. |
| Compter | Répartition des données de la fonctionnalité Boutique en ligne par horaire synchronisé. |
| Pour cent | La charge CPU moyenne des nœuds dans la fonctionnalité Boutique en ligne. |
| Pour cent | La charge CPU du nœud le plus chaud de la fonctionnalité Online Store. |
| Compter | Le nombre de nœuds pour la fonctionnalité Boutique en ligne (Bigtable). |
| Compter | Octets stockés dans la fonctionnalité Online Store. |
Données de localisation VertexAI
métrique | Unité | Description |
|---|---|---|
| Compter | Nombre de requests par modèle de base. |
| Compter | Nombre de tentatives de dépassement de la limite de la métrique de quota. |
| Compter | Limite actuelle sur la métrique de quota. |
| Compter | Utilisation actuelle de la métrique de quota. |
| Compter | Nombre de tâches de pipeline en cours d'exécution. |
| Compter | Nombre de tâches de pipeline en cours d'exécution. |
Données de l'index VertexAI
métrique | Unité | Description |
|---|---|---|
| Compter | Nombre de points de données insérés ou supprimés avec succès. |
| Millisecondes | La latence entre l'utilisateur reçoit un UpsertDatapointsResponse ou RemoveDatapointsResponse et cette mise à jour prend effet. |
| Compter | Nombre de requests de mise à jour de flux. |
Données sur les tâches Pipeline VertexAI
métrique | Unité | Description |
|---|---|---|
| Secondes | Secondes d'exécution du travail du pipeline en cours d'exécution (de la création à la fin). |
| Compter | Nombre total de tâches Pipeline terminées. |