As integrações da New Relic com o Google Cloud Platform (GCP) incluem uma integração para reportar dados do Google Cloud Vertex AI para a New Relic. Este documento explica como ativar a integração do GCP Vertex AI e descreve os dados que ela reporta.
Recurso
O Vertex AI é a plataforma unificada do Google Cloud para criar, implantar e gerenciar modelos de machine learning e aplicativos de IA generativa. A integração New Relic Vertex AI coleta métricas de desempenho, taxas de transferência, latência e utilização de recursos em locais, endpoints, índices, armazenamentos de recursos e armazenamentos de recursos online.
Ativar integração
Para habilitar a integração, é necessário seguir os procedimentos padrão para conectar o serviço do GCP ao New Relic:
- Conecte-se com a Workload Identity Federation (recomendado)
- Conectar com conta de serviço ou conta de usuário
Frequência de votação
As integrações do New Relic consultam os serviços do GCP de acordo com um intervalo de sondagem que varia por integração. A frequência de sondagem para o Google Cloud Vertex AI é de 5 minutos. A resolução é 1 ponto de dados a cada minuto.
Workload Identity Federation
Encontre e use dados
Após habilitar a integração, os recursos do Vertex AI aparecem como entidades no explorador de entidades da New Relic. Para ver dashboards e gerenciar serviços, acesse one.newrelic.com > All capabilities > Infrastructure > GCP.
Todas as métricas do Vertex AI disponíveis no monitoramento de nuvem do GCP são coletadas como métricas dimensionais no tipo de evento Metric. Métricas adicionais além desta tabela são coletadas automaticamente. Consulte a documentação de métricas do Vertex AI do Google para ver a lista completa.
Entidade
Dados métricos
Métricas principais — Localização
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número de jobs de pipeline atualmente em execução no local. |
| Contar | Número de tarefas de Pipeline atualmente em execução no local. |
| Contar | Número de requests de previsão online por projeto por modelo base. |
| Contar | Uso atual da cota para requests de previsão online por modelo base. |
| Contar | Limite de cota atual para requests de previsão online por modelo base. |
| Contar | Número de tentativas que excederam a cota de requests de previsão online. |
| Contar | Tokens de entrada de previsão online por minuto, por projeto, por modelo base. |
| Contar | Tokens de saída de previsão online por minuto por projeto por modelo base. |
| Contar | Total de tokens servidos por modelos de editor na localização. |
| Milissegundos | Latência para o primeiro token de resposta dos modelos de editor. |
Para a lista completa de métricas de localização, consulte a documentação de métricas do Vertex AI do Google.
Métricas-chave — endpoint
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Por cento | Fração média de tempo durante o último período de amostragem em que os aceleradores estavam processando ativamente. |
| Bytes | Memória do acelerador alocada pela réplica do modelo implantado. |
| Por cento | Utilização de CPU da réplica de modelo implantada. |
| Bytes | Memória em uso pela réplica de modelo implantada. |
| Bytes | Bytes de rede recebidos pela réplica do modelo implantado. |
| Bytes | Bytes de rede enviados pela réplica de modelo implantada. |
| Contar | Número de previsões online atendidas pelo endpoint. |
| Milissegundos | Latência de predição online do modelo implantar. |
| Contar | Número de erros de previsão online retornados pelo endpoint. |
| Contar | Número de respostas de previsão online retornadas pelo endpoint, facetadas por código de resposta. |
| Contar | Número de réplicas ativas atendendo ao modelo implantar. |
| Contar | Número destino de réplicas ativas para o modelo implantar. |
Para a lista completa de métricas de endpoint, consulte a documentação de métricas do Vertex AI do Google.
Métricas principais — Índice
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número atual de fragmentos que dão suporte ao índice. |
| Contar | Número de requests de atualização de fluxo enviados ao índice. |
| Contar | Número de pontos de dados inseridos/atualizados ou removidos com sucesso via atualização de stream. |
| Milissegundos | Latência entre uma resposta de atualização de stream e a atualização entrar em vigor. |
Para a lista completa de métricas de índice, consulte a documentação de métricas do Vertex AI do Google.
Métricas principais — Featurestore
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Por cento | Carga média de CPU nos nós do armazenamento online do Featurestore. |
| Por cento | Carga de CPU no nó mais quente no armazenamento online do Featurestore. |
| Contar | Número de nós provisionados para o armazenamento online do Featurestore. |
| Contar | Número de entidades atualizadas no armazenamento online do Featurestore. |
| Contar | Número de requests de serviço online tratadas pelo Featurestore, facetadas por EntityType. |
| Milissegundos | Latência de solicitação de serviço online no Featurestore, facetada por EntityType. |
| Bytes | Tamanho dos requests de serviço online no Featurestore, facetado por EntityType. |
| Bytes | Tamanho da resposta de serviço on-line no Featurestore, facetado por EntityType. |
| Bytes | Total de dados armazenados no Featurestore. |
| Bytes | Bytes faturáveis processados para dados offline do Featurestore. |
| Contar | Número de requests de gravação de streaming processados no armazenamento offline. |
| Segundos | Tempo desde quando a API de gravação de streaming é chamada até que o registro alcance o armazenamento offline. |
Para obter a lista completa de métricas do featurestore, consulte a documentação de métricas do Vertex AI do Google.
Métricas-chave — Loja de recurso online
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número de requests de atendimento online processados pelo Feature Online Store, facetados por FeatureView. |
| Milissegundos | Latência de solicitação de serviço online na Loja online de recursos, facetada por FeatureView. |
| Bytes | Tamanho da resposta de serviço online no Feature Online Store, facetado por FeatureView. |
| Contar | Número de sincronizações atualmente em execução no Feature Online Store. |
| Segundos | Idade dos dados sendo servidos pelo Feature Online Store. |
| Contar | Detalhamento dos registros no Feature Online Store por timestamp sincronizado. |
| Por cento | Carga média de CPU nos nós do Bigtable que dão suporte ao Feature Online Store. |
| Por cento | Carga de CPU no nó mais quente do Bigtable que dá suporte ao Feature Online Store. |
| Contar | Número de nós do Bigtable que dão suporte ao Feature Online Store. |
| Bytes | Total de dados armazenados no Feature Online Store. |
Para a lista completa de métricas do armazenamento online de recursos, consulte a documentação de métricas do Vertex AI do Google.
Métricas-chave — job de Pipeline
Nome da métrica | Unidade | Descrição |
|---|---|---|
| Segundos | Segundos de tempo de execução do job de pipeline sendo executado, da criação ao fim. |
| Contar | Número total de tarefas de pipeline concluídas no job de pipeline. |
Para obter a lista completa de métricas de trabalho de pipeline, consulte a documentação de métricas do Vertex AI do Google.
Conta de serviço ou conta de usuário
Encontre e use dados
Após ativar a integração e aguardar alguns minutos (com base na frequência da votação), os dados aparecerão na interface do New Relic . Para encontrar e usar seus dados, incluindo links para seu e configurações de alerta, acesse one.newrelic.com > All capabilities > Infrastructure > GCP > (select an integration).
Os dados são anexados aos seguintes tipos de eventos:
Entidade | Tipo de evento | Fornecedor |
|---|---|---|
Endpoint |
|
|
Loja de recursos |
|
|
Loja de recurso online |
|
|
Localização |
|
|
Índice |
|
|
PipelineJob |
|
|
Para saber mais sobre como usar seus dados, consulte Compreender e usar dados de integração.
Dados do endpoint VertexAI
Métrica | Unidade | Descrição |
|---|---|---|
| Por cento | Fração média de tempo durante o período de amostragem anterior durante o qual o(s) acelerador(es) estavam processando ativamente. |
| Bytes | Quantidade de memória aceleradora alocada pela réplica do modelo implantar. |
| Contar | Número de erros de previsão online. |
| Bytes | Quantidade de memória alocada pela réplica do modelo implantar e atualmente em uso. |
| Bytes | Número de bytes recebidos na rede pela réplica do modelo implantado. |
| Bytes | Número de bytes enviados pela rede pela réplica do modelo implantado. |
| Contar | Número de previsões online. |
| Milissegundos | Latência de predição online do modelo implantar. |
| Milissegundos | Latência de predição online do modelo implantar privado. |
| Contar | Número de réplicas ativas utilizadas pelo modelo implantar. |
| Contar | Número de diferentes códigos de resposta de previsão online. |
| Contar | Número destino de réplicas ativas necessárias para o modelo implantar. |
Dados do VertexAI Featurestore
Métrica | Unidade | Descrição |
|---|---|---|
| Por cento | A carga média da CPU para um nó no armazenamento online do Featurestore. |
| Por cento | A carga da CPU para o nó mais quente no armazenamento online do Featurestore. |
| Contar | O número de nós para o armazenamento online do Featurestore. |
| Contar | Número de entidade atualizado no armazenamento online da Featurestore. |
| Milissegundos | Latência de serviço on-line por EntityType. |
| Bytes | Tamanho da solicitação por EntityType. |
| Contar | Contagem de serviços on-line do Featurestore por EntityType. |
| Bytes | Tamanho da resposta por EntityType. |
| Bytes | Número de bytes cobrados por dados offline processados. |
| Bytes | Bytes armazenados no Featurestore. |
| Contar | Número de solicitações de gravação de streaming processadas para armazenamento offline. |
| Segundos | Tempo (em segundos) desde que a API de gravação é chamada até ser gravada no armazenamento offline. |
Dados VertexAI FeatureOnlineStore
Métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número de contagem de veiculações por FeatureView. |
| Bytes | Servindo tamanho de resposta por FeatureView. |
| Milissegundos | Latência de atendimento on-line pelo FeatureView. |
| Milissegundos | Número de sincronizações em execução em determinado momento. |
| Segundos | Medida da idade dos dados de serviço em segundos. |
| Contar | Detalhamento dos dados do Feature Online Store por timestamp sincronizado. |
| Por cento | A carga média de CPU dos nós do Feature Online Store. |
| Por cento | A carga de CPU do nó mais quente no Feature Online Store. |
| Contar | A quantidade de nós do Feature Online Store(Bigtable). |
| Contar | Bytes armazenados no Feature Online Store. |
Dados de localização da VertexAI
Métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número de solicitações por modelo base. |
| Contar | Número de tentativas de exceder o limite da métrica de cota. |
| Contar | Limite atual na métrica de cota. |
| Contar | Uso atual na métrica de cota. |
| Contar | Número de trabalhos de pipeline sendo executados. |
| Contar | Número de tarefas de pipeline sendo executadas. |
Dados do índice VertexAI
Métrica | Unidade | Descrição |
|---|---|---|
| Contar | Número de pontos de dados inseridos ou removidos com êxito. |
| Milissegundos | A latência entre o usuário recebe um UpsertDatapointsResponse ou RemoveDatapointsResponse e essa atualização entra em vigor. |
| Contar | Número de solicitações de atualização de stream. |
Dados do trabalho do pipeline VertexAI
Métrica | Unidade | Descrição |
|---|---|---|
| Segundos | Segundos de tempo de execução do trabalho do pipeline sendo executado (da criação ao fim). |
| Contar | Número total de tarefas de pipeline concluídas. |