La integración de New Relic con Google Cloud Platform (GCP) incluye una que informa datos de Google Cloud Vertex AI a New Relic. Este documento explica cómo activar la integración de GCP Vertex AI y describe los datos que informa.
Característica
Vertex AI es la plataforma unificada de Google Cloud para crear, desplegar y administrar modelos de aprendizaje automático y aplicaciones de IA generativa. La integración de Vertex AI de New Relic recopila métricas de rendimiento, rendimiento, latencia y utilización de recursos en ubicaciones, extremos, índices, almacenes de características y almacenes de características en línea.
Activar la integración
Para habilitar la integración, siga los procedimientos estándar para conectar su servicio de GCP a New Relic:
- Conectar con la federación de identidades de workload (Workload Identity Federation) (recomendado)
- Conectar con cuenta de servicio o cuenta de usuario
Frecuencia de sondeo
Las integraciones de New Relic consultan sus servicios de GCP según un intervalo de sondeo que varía según la integración. La frecuencia de sondeo para Google Cloud Vertex AI es de 5 minutos. La resolución es 1 punto de datos cada minuto.
Federación de identidades de workload (Workload Identity Federation)
Buscar y utilizar datos
Después de habilitar la integración, sus recursos de Vertex AI aparecen como entidades en el explorador de entidades de New Relic. Para ver el dashboard y administrar los servicios, vaya a one.newrelic.com > All capabilities > Infrastructure > GCP.
Todas las métricas de Vertex AI disponibles en el monitoreo de la nube de GCP se recopilan como métricas dimensionales en el tipo de evento Metric. Las métricas adicionales más allá de esta tabla se recopilan automáticamente. Consulte la documentación de métricas de Vertex AI de Google para obtener la lista completa.
Entidad
Datos métricos
Métricas clave — Ubicación
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número de trabajos de pipeline que se están ejecutando actualmente en la ubicación. |
| Contar | Número de tareas de Pipeline que se están ejecutando actualmente en la ubicación. |
| Contar | Número de requests de predicción en línea por proyecto por modelo base. |
| Contar | Uso actual de la cuota para requests de predicción en línea por modelo base. |
| Contar | Límite de cuota actual para requests de predicción en línea por modelo base. |
| Contar | Número de intentos que superaron la cuota de requests de predicción en línea. |
| Contar | Tokens de entrada de predicción en línea por minuto por proyecto por modelo base. |
| Contar | Tokens de salida de predicción en línea por minuto por proyecto por modelo base. |
| Contar | Total de tokens servidos por modelos de publicadores en la ubicación. |
| Milisegundos | Latencia hasta el primer token de respuesta de los modelos del publicador. |
Para obtener la lista completa de métricas de ubicación, consulte la documentación de métricas de Vertex AI de Google.
Métricas clave — extremo
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Por ciento | Fracción promedio de tiempo durante el último período de muestra en el que los aceleradores estuvieron procesando activamente. |
| Bytes | Memoria del acelerador asignada por la réplica del modelo desplegada. |
| Por ciento | Utilización de CPU de la réplica del modelo desplegada. |
| Bytes | Memoria en uso por la réplica del modelo desplegada. |
| Bytes | Bytes de red recibidos por la réplica del modelo desplegada. |
| Bytes | Bytes de red enviados por la réplica del modelo desplegada. |
| Contar | Número de predicciones en línea servidas por el extremo. |
| Milisegundos | Latencia de predicción online del modelo desplegar. |
| Contar | Número de errores de predicción en línea devueltos por el extremo. |
| Contar | Número de respuestas de predicción en línea devueltas por el extremo, desglosadas por código de respuesta. |
| Contar | Número de réplicas activas que sirven al modelo desplegado. |
| Contar | Número objetivo de réplicas activas para el modelo desplegado. |
Para obtener la lista completa de métricas del extremo, consulte la documentación de métricas de Vertex AI de Google.
Métricas clave — índice
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número actual de fragmentos que respaldan el índice. |
| Contar | Número de requests de actualización de flujo enviados al índice. |
| Contar | Número de puntos de datos insertados, actualizados o eliminados correctamente mediante la actualización de flujo. |
| Milisegundos | Latencia entre una respuesta de actualización de stream y el momento en que la actualización surte efecto. |
Para obtener la lista completa de métricas de índice, consulte la documentación de métricas de Vertex AI de Google.
Métricas clave — Featurestore
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Por ciento | Carga promedio de CPU en los nodos del almacenamiento en línea de Featurestore. |
| Por ciento | Carga de CPU en el nodo más caliente en el almacenamiento en línea de Featurestore. |
| Contar | Número de nodos aprovisionados para el almacenamiento en línea de Featurestore. |
| Contar | Número de entidades actualizadas en el almacenamiento en línea de Featurestore. |
| Contar | Número de requests de servicio en línea manejadas por el Featurestore, desglosadas por EntityType. |
| Milisegundos | Latencia de la solicitud de servicio en línea en el Featurestore, desglosada por EntityType. |
| Bytes | Tamaño de la solicitud de servicio en línea en el Featurestore, desglosado por EntityType. |
| Bytes | Tamaño de la respuesta de servicio en línea en el Featurestore, facetado por EntityType. |
| Bytes | Total de datos almacenados en Featurestore. |
| Bytes | Bytes facturables procesados para datos sin conexión de Featurestore. |
| Contar | Número de requests de escritura en streaming procesados en el almacenamiento fuera de línea. |
| Segundos | Tiempo desde que se llama a la API de escritura en streaming hasta que el registro llega al almacenamiento sin conexión. |
Para obtener la lista completa de métricas de featurestore, consulte la documentación de métricas de Vertex AI de Google.
Métricas clave — Feature Online Store
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número de requests de servicio en línea manejadas por Feature Online Store, desglosadas por FeatureView. |
| Milisegundos | Latencia de la solicitud de servicio en línea en Feature Online Store, desglosada por FeatureView. |
| Bytes | Tamaño de la respuesta de servicio en línea en Feature Online Store, desglosado por FeatureView. |
| Contar | Número de sincronizaciones que se ejecutan actualmente en Feature Online Store. |
| Segundos | Antigüedad de los datos servidos por Feature Online Store. |
| Contar | Desglose de registros en Feature Online Store por timestamp sincronizada. |
| Por ciento | Carga promedio de CPU en los nodos de Bigtable que respaldan Feature Online Store. |
| Por ciento | Carga de CPU en el nodo de Bigtable más caliente que respalda Feature Online Store. |
| Contar | Número de nodos de Bigtable que respaldan Feature Online Store. |
| Bytes | Datos totales almacenados en Feature Online Store. |
Para ver la lista completa de métricas del almacén en línea de características, consulte la documentación de métricas de Vertex AI de Google.
Métricas clave — trabajo de Pipeline
Nombre de la métrica | Unidad | Descripción |
|---|---|---|
| Segundos | Segundos de tiempo de ejecución del trabajo de canalización que se está ejecutando, desde la creación hasta el final. |
| Contar | Número total de tareas de pipeline completadas en el trabajo de pipeline. |
Para obtener la lista completa de métricas de trabajos de pipeline, consulte Documentación de métricas de Vertex AI de Google.
Cuenta de servicio o cuenta de usuario
Buscar y utilizar datos
Después de activar la integración y esperar unos minutos (según la frecuencia de sondeo ), los datos aparecerán en la New Relic UI. Para buscar y utilizar sus datos, incluidos enlaces a su y configuración de alertas, vaya a one.newrelic.com > All capabilities > Infrastructure > GCP > (select an integration).
Los datos se adjuntan a los siguientes tipos de eventos:
Entidad | Tipo de evento | Proveedor |
|---|---|---|
Extremo |
|
|
Tienda caracteristica |
|
|
Tienda característica online |
|
|
Ubicación |
|
|
Índice |
|
|
PipelineJob |
|
|
Para obtener más información sobre cómo utilizar sus datos, consulte Comprender y utilizar los datos de integración.
Datos extremos de VertexAI
Métrica | Unidad | Descripción |
|---|---|---|
| Por ciento | Fracción de tiempo promedio durante el último periodo de muestra durante el cual los aceleradores estuvieron procesando activamente. |
| Bytes | Cantidad de memoria aceleradora asignada por la réplica del modelo de despliegue. |
| Contar | Número de errores de predicción en línea. |
| Bytes | Cantidad de memoria asignada por la réplica del modelo de despliegue y actualmente en uso. |
| Bytes | Número de bytes recibidos a través de la red por la réplica del modelo de desplegar. |
| Bytes | Número de bytes enviados a través de la red por la réplica del modelo de desplegar. |
| Contar | Número de predicciones en línea. |
| Milisegundos | Latencia de predicción online del modelo desplegar. |
| Milisegundos | Latencia de predicción online del modelo privado desplegar. |
| Contar | Número de réplicas activas empleadas por el modelo desplegar. |
| Contar | Número de códigos de respuesta de predicción en línea diferentes. |
| Contar | Número objetivo de réplicas activas necesarias para el modelo de despliegue. |
Datos de VertexAI Featurestore
Métrica | Unidad | Descripción |
|---|---|---|
| Por ciento | La carga promedio de CPU para un nodo en el almacenamiento en línea de Featurestore. |
| Por ciento | La carga de CPU para el nodo más activo en el almacenamiento en línea de Featurestore. |
| Contar | La cantidad de nodos para el almacenamiento en línea de Featurestore. |
| Contar | Número de entidad actualizada en el almacenamiento en línea de Featurestore. |
| Milisegundos | Latencia de servicio online por EntityType. |
| Bytes | Tamaño de la solicitud por EntityType. |
| Contar | Recuento de servicios en línea de Featurestore por EntityType. |
| Bytes | Tamaño de respuesta por EntityType. |
| Bytes | Número de bytes facturados por datos fuera de línea procesados. |
| Bytes | Bytes almacenados en Featurestore. |
| Contar | Número de solicitudes de escritura en streaming procesadas para almacenamiento sin conexión. |
| Segundos | Tiempo (en segundos) desde que se llama a la API de escritura hasta que se escribe en el almacenamiento fuera de línea. |
Datos de VertexAI FeatureOnlineStore
Métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número de recuento de porciones por FeatureView. |
| Bytes | Tamaño de respuesta de publicación por FeatureView. |
| Milisegundos | Latencia de servicio en línea mediante FeatureView. |
| Milisegundos | Número de sincronizaciones en ejecución en un momento determinado. |
| Segundos | Medida de la antigüedad de los datos de servicio en segundos. |
| Contar | Desglose de datos en Feature Online Store por timestamp sincronizada. |
| Por ciento | La carga promedio de CPU de los nodos en Feature Online Store. |
| Por ciento | La carga de CPU del nodo más caliente en Feature Online Store. |
| Contar | El número de nodos de Feature Online Store(Bigtable). |
| Contar | Bytes almacenados en Feature Online Store. |
Datos de ubicación de VertexAI
Métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número de solicitudes por modelo base. |
| Contar | Número de intentos de superar el límite de la métrica de cuota. |
| Contar | Límite actual de la métrica de cuota. |
| Contar | Uso actual en la métrica de cuota. |
| Contar | Número de trabajos de canalización que se ejecutan. |
| Contar | Número de tareas de canalización que se ejecutan. |
Datos del índice VertexAI
Métrica | Unidad | Descripción |
|---|---|---|
| Contar | Número de puntos de datos insertados o eliminados correctamente. |
| Milisegundos | La latencia entre el usuario recibe una UpsertDatapointsResponse o RemoveDatapointsResponse y esa actualización surte efecto. |
| Contar | Número de solicitudes de actualización de flujo. |
Datos del trabajo de pipeline de VertexAI
Métrica | Unidad | Descripción |
|---|---|---|
| Segundos | Segundos de tiempo de ejecución del trabajo de canalización que se ejecuta (desde la creación hasta el final). |
| Contar | Número total de tareas de canalización completadas. |