AI 모니터링을 통해 에이전트는 AI 데이터를 인식하고 캡처할 수 있습니다. AI 모니터링에는 AI 기반 앱에 사용한 언어에 따라 라이브러리 호환성 요구 사항이 다릅니다.
분산 추적을 비활성화하거나 높은 수준의 보안 모드를 활성화하면 에이전트가 AI 데이터를 캡처하지 않습니다.
중요
AI 및 AI 기반 기술은 현재 FedRAMP 인증을 받지 않았으므로 FedRAMP 고객 인 경우 AI 모니터링을 활성화하면 안 됩니다.
호환 가능한 AI 라이브러리
AI 모니터링은 다음 에이전트 버전 및 AI 라이브러리와 호환됩니다.
에이전트 버전 | 지원되는 라이브러리 |
|---|---|
| |
| |
| |
|
NVIDIA NIM을 통한 대규모 모니터링
AI 모니터링은 NVIDIA NIM이 지원하는 모든 모델과 통합되고 이에 대한 데이터를 수집할 수 있습니다. 예를 들어 llama3, mistralai 또는 NVIDIA의 독점 LLM 중 하나를 사용하는 Python 또는 Node.js AI 앱을 구축한 경우 AI 모니터링을 사용하여 해당 앱을 축소하고 앱에 대한 성능 데이터를 볼 수 있습니다.
NVIDIA NIM과 통합하는 데 추가 단계가 필요하지 않습니다. 설치 수동 절차를 따르거나 뉴렐릭 플랫폼을 통해 직접 설치할 수 있습니다.
다음은 뭐지?
- AI 모니터링을 설치 하여 시작할 수 있습니다.
- AI 모니터링 UI를 살펴보고 AI 기반 앱을 개선하는 데 어떻게 도움이 될 수 있는지 알아보세요.
- 드롭 필터를 설정하여 데이터 규정 준수를 유지하는 방법을 알아보세요.