뉴렐릭 통합 에는 Google Cloud Platform(GCP) 과의 Google Cloud Vertex AI 데이터를 뉴렐릭에 보고하는 통합이 포함됩니다. 이 문서에서는 GCP Vertex AI 통합을 활성화하는 방법과 보고되는 데이터에 대해 설명합니다.
특징
Vertex AI는 머신러닝 모델 및 생성형 AI 애플리케이션을 빌드, 배포 및 관리하기 위한 Google Cloud의 통합 플랫폼입니다. 뉴렐릭 Vertex AI 통합은 위치, 엔드포인트, 인덱스, 기능 스토어 및 기능 온라인 스토어 전반에서 성능, 처리량, 지연시간 및 리소스 사용률 메트릭을 수집합니다.
통합 활성화
통합을 활성화하려면 표준 절차에 따라 GCP 서비스를 뉴렐릭에 연결하십시오:
폴링 빈도
뉴렐릭 통합은 통합에 따라 달라지는 폴링 간격에 따라 GCP 서비스를 쿼리합니다. Google Cloud Vertex AI의 폴링 빈도는 5분입니다. 해상도는 1분마다 1개의 데이터 포인트입니다.
워크로드 아이덴티티 페더레이션
데이터 찾기 및 사용
통합을 활성화하면 Vertex AI 리소스가 뉴렐릭 엔티티 탐색기에 엔티티로 표시됩니다. 대시보드를 확인하고 서비스를 관리하려면 one.newrelic.com > All capabilities > Infrastructure > GCP(으)로 이동하십시오.
GCP 클라우드 모니터링에서 사용할 수 있는 모든 Vertex AI 메트릭은 Metric 이벤트 유형에서 차원 메트릭으로 수집됩니다. 이 표 이외의 추가 메트릭은 자동으로 수집됩니다. 전체 목록은 Google의 Vertex AI 메트릭 문서 를 확인하십시오.
엔티티
측정항목 데이터
주요 메트릭 — 위치
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 세다 | 해당 위치에서 현재 실행 중인 파이프라인 작업 수입니다. |
| 세다 | 해당 위치에서 현재 실행 중인 Pipeline 작업의 수입니다. |
| 세다 | 기본 모델당 프로젝트별 온라인 예측 requests 수입니다. |
| 세다 | 기본 모델당 온라인 예측 requests에 대한 현재 할당량 사용량입니다. |
| 세다 | 기본 모델당 온라인 예측 requests에 대한 현재 할당량 한도입니다. |
| 세다 | 온라인 예측 requests 할당량을 초과한 시도 횟수입니다. |
| 세다 | 기본 모델당 프로젝트당 분당 온라인 예측 입력 토큰입니다. |
| 세다 | 기본 모델당 프로젝트당 분당 온라인 예측 출력 토큰 수입니다. |
| 세다 | 해당 위치의 게시자 모델에서 제공한 총 토큰입니다. |
| 밀리초 | 게시자 모델에서 첫 번째 응답 토큰까지의 지연시간입니다. |
위치 메트릭의 전체 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
주요 메트릭 — 엔드포인트
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 퍼센트 | 과거 샘플 기간 동안 가속기가 활발하게 처리된 평균 시간 비율입니다. |
| 바이트 | 배포된 모델 복제본에 할당된 가속기 메모리입니다. |
| 퍼센트 | 배포된 모델 복제본의 CPU 사용률. |
| 바이트 | 배포된 모델 복제본에서 사용 중인 메모리입니다. |
| 바이트 | 배포된 모델 복제본이 수신한 네트워크 바이트 수입니다. |
| 바이트 | 배포된 모델 복제본에서 전송한 네트워크 바이트 수입니다. |
| 세다 | 엔드포인트에서 제공하는 온라인 예측 수입니다. |
| 밀리초 | 구현하다, 배포하다 모델의 온라인 예측 지연시간. |
| 세다 | 엔드포인트에서 반환된 온라인 예측 오류의 수. |
| 세다 | 응답 코드별로 분류된 엔드포인트에서 반환한 온라인 예측 응답 수입니다. |
| 세다 | 배포된 모델을 제공하는 활성 복제본 수입니다. |
| 세다 | 배포된 모델의 활성 복제본 목표 수입니다. |
전체 엔드포인트 메트릭 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
주요 메트릭 — 인덱스
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 세다 | 인덱스를 지원하는 현재 샤드 수. |
| 세다 | 인덱스로 전송된 스트림 업데이트 requests 수입니다. |
| 세다 | 스트림 업데이트를 통해 성공적으로 업서트되거나 제거된 데이터 포인트 수입니다. |
| 밀리초 | 스트림 업데이트 응답과 업데이트 적용 사이의 지연시간입니다. |
인덱스 메트릭의 전체 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
주요 메트릭 ― Featurestore
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 퍼센트 | Featurestore 온라인 스토리지의 노드 전체 평균 CPU 부하입니다. |
| 퍼센트 | Featurestore 온라인 스토리지에서 가장 핫한 노드의 CPU 부하입니다. |
| 세다 | Featurestore 온라인 스토리지를 위해 프로비저닝된 노드 수입니다. |
| 세다 | Featurestore 온라인 스토리지에서 업데이트된 엔티티 수입니다. |
| 세다 | EntityType별로 분류된 Featurestore에서 처리한 온라인 서빙 requests 수입니다. |
| 밀리초 | EntityType을 기준으로 패싯된, Featurestore의 온라인 서빙 요청 지연시간. |
| 바이트 | EntityType별로 패싯된 Featurestore의 온라인 서빙 요청 크기입니다. |
| 바이트 | EntityType별로 분류된 Featurestore의 온라인 서빙 응답 크기입니다. |
| 바이트 | Featurestore에 저장된 총 데이터입니다. |
| 바이트 | Featurestore 오프라인 데이터에 대해 처리된 청구 가능 바이트. |
| 세다 | 오프라인 스토리지로 처리된 스트리밍-쓰기 requests의 수입니다. |
| 초 | 스트리밍 쓰기 API가 호출된 시점부터 레코드가 오프라인 스토리지에 도달할 때까지의 시간입니다. |
전체 featurestore 메트릭 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
주요 메트릭 ― 기능 온라인 스토어
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 세다 | FeatureView별로 분류된 기능 온라인 스토어에서 처리한 온라인 서빙 requests 수입니다. |
| 밀리초 | FeatureView별로 분류된 기능 온라인 스토어의 온라인 서빙 요청 지연시간입니다. |
| 바이트 | 기능 온라인 스토어의 온라인 서빙 응답 크기이며, FeatureView별로 분류됩니다. |
| 세다 | 기능 온라인 스토어에서 현재 실행 중인 동기화 수입니다. |
| 초 | 기능 온라인 스토어에서 제공되는 데이터의 수명입니다. |
| 세다 | 동기화된 타임스탬프별 기능 온라인 스토어의 레코드 내역입니다. |
| 퍼센트 | 기능 온라인 스토어를 지원하는 Bigtable 노드 전체의 평균 CPU 로드입니다. |
| 퍼센트 | 기능 온라인 스토어를 지원하는 가장 부하가 높은 Bigtable 노드의 CPU 로드입니다. |
| 세다 | 기능 온라인 스토어를 지원하는 Bigtable 노드 수입니다. |
| 바이트 | 기능 Online Store에 저장된 총 데이터입니다. |
기능 온라인 스토어 메트릭의 전체 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
주요 메트릭 ― Pipeline 작업
측정항목 이름 | 유닛 | 설명 |
|---|---|---|
| 초 | 생성부터 종료까지 실행 중인 파이프라인 작업의 실행 시간(초)입니다. |
| 세다 | 파이프라인 작업에서 완료된 파이프라인 태스크의 총 수입니다. |
파이프라인 작업 메트릭의 전체 목록은 Google의 Vertex AI 메트릭 문서를 참조하십시오.
서비스 계정 또는 사용자 계정
데이터 찾기 및 사용
통합을 활성화하고 몇 분 정도 기다리면( 폴링 빈도 에 따라) New Relic UI 에 데이터가 표시됩니다. 및 공지 설정에 대한 링크를 포함하여 데이터를 찾고 사용 하려면 one.newrelic.com > All capabilities > Infrastructure > GCP > (select an integration))로 이동하세요.
데이터는 다음 이벤트 유형 에 첨부됩니다.
실재 | 이벤트 유형 | 공급자 |
|---|---|---|
끝점 |
|
|
매장이 있어요 |
|
|
기능 온라인 스토어 |
|
|
위치 |
|
|
색인 |
|
|
파이프라인작업 |
|
|
데이터 사용 방법에 대한 자세한 내용은 통합 데이터 이해 및 사용 을 참조하십시오.
VertexAI 엔드포인트 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 퍼센트 | 가속기가 적극적으로 처리 중인 지난 샘플 기간 동안의 평균 시간 비율입니다. |
| 바이트 | 구현하다, 배포하다 모델 복제본에 의해 할당된 가속기 메모리의 양입니다. |
| 세다 | 온라인 예측 오류 수입니다. |
| 바이트 | 구현하다, 배포하다 모델 복제본에 의해 할당되어 현재 사용 중인 메모리 양입니다. |
| 바이트 | 구현하다, 배포하다 모델 복제본이 네트워크를 통해 수신한 바이트 수입니다. |
| 바이트 | 구현하다, 배포하다 모델 복제본이 네트워크를 통해 전송한 바이트 수입니다. |
| 세다 | 온라인 예측 수입니다. |
| 밀리초 | 구현하다, 배포하다 모델의 온라인 예측 지연시간. |
| 밀리초 | 비공개 구현하다, 배포하다 모델의 온라인 예측 지연시간. |
| 세다 | 구현하다, 배포하다 모델에서 사용되는 활성 복제본 수입니다. |
| 세다 | 다양한 온라인 예측 응답 코드의 수입니다. |
| 세다 | 그릇, 구현하다, 배포하다 모델에 필요한 활성 복제본의 목표 수입니다. |
VertexAI Featurestore 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 퍼센트 | Featurestore 온라인 저장소에 있는 노드의 평균 CPU 로드입니다. |
| 퍼센트 | Featurestore 온라인 스토리지에서 가장 인기 있는 노드의 CPU 로드입니다. |
| 세다 | Featurestore 온라인 스토리지의 노드 수입니다. |
| 세다 | 피처스토어 온라인 스토리지에 엔터티 개수가 업데이트되었습니다. |
| 밀리초 | EntityType별 온라인 서비스 지연 시간입니다. |
| 바이트 | EntityType별 요청 크기입니다. |
| 세다 | EntityType별 Featurestore 온라인 제공 횟수입니다. |
| 바이트 | EntityType별 응답 크기입니다. |
| 바이트 | 처리된 오프라인 데이터에 대해 청구된 바이트 수입니다. |
| 바이트 | Featurestore에 저장된 바이트입니다. |
| 세다 | 오프라인 스토리지를 위해 처리된 스트리밍 쓰기 요청 수입니다. |
| 초 | 쓰기 API가 호출된 이후 오프라인 저장소에 기록될 때까지의 시간(초)입니다. |
VertexAI FeatureOnlineStore 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 세다 | FeatureView별 제공 횟수입니다. |
| 바이트 | FeatureView별로 응답 크기를 제공합니다. |
| 밀리초 | FeatureView의 온라인 서비스 지연 시간입니다. |
| 밀리초 | 특정 시점에 실행 중인 동기화 수입니다. |
| 초 | 제공 데이터 기간을 초 단위로 측정합니다. |
| 세다 | 동기화된 타임스탬프에 의한 온라인 스토어의 데이터 분석입니다. |
| 퍼센트 | 온라인 스토어에 있는 노드의 평균 CPU 로드입니다. |
| 퍼센트 | 온라인 스토어에서 가장 인기 있는 노드의 CPU 로드입니다. |
| 세다 | Online Store(Bigtable)의 노드 수입니다. |
| 세다 | 온라인 스토어에 저장된 바이트입니다. |
VertexAI 위치 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 세다 | 기본 모델당 요청 수입니다. |
| 세다 | 할당량 기준을 초과하려는 시도 횟수입니다. |
| 세다 | 현재 할당량 기준 한도입니다. |
| 세다 | 현재 할당량 기준 사용량입니다. |
| 세다 | 실행 중인 파이프라인 작업 수입니다. |
| 세다 | 실행 중인 파이프라인 작업 수입니다. |
VertexAI 인덱스 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 세다 | 성공적으로 업데이트되거나 제거된 데이터 포인트의 수입니다. |
| 밀리초 | 사용자가 UpsertDatapointsResponse 또는 RemoveDatapointsResponse를 수신하고 해당 업데이트가 적용되는 사이의 지연 시간입니다. |
| 세다 | 스트림 업데이트 요청 수입니다. |
VertexAI 파이프라인 작업 데이터
미터법 | 유닛 | 설명 |
|---|---|---|
| 초 | 실행 중인 파이프라인 작업의 런타임 초입니다(생성부터 끝까지). |
| 세다 | 완료된 파이프라인 작업의 총 개수입니다. |