AI Monitoring permite que o agente reconheça e capture dados de IA. AI Monitoring tem diferentes requisitos de compatibilidade de biblioteca, dependendo da linguagem usada em seu aplicativo com tecnologia de IA.
Ao desabilitar distributed tracing ou habilitar o modo de alta segurança, o agente não capturará dados de IA.
Importante
Você não deve habilitar AI Monitoring se for um cliente do FedRAMP, porque a IA e as tecnologias baseadas em IA não são atualmente autorizadas pelo FedRAMP.
Biblioteca de IA compatível
AI Monitoring é compatível com estas versões de agente e biblioteca AI:
Versão do agente | Biblioteca suportada |
|---|---|
| |
| |
| |
| |
| |
|
monitoramento em escala com NVIDIA NIM
AI Monitoring pode integrar e coletar dados sobre qualquer modelo compatível com NVIDIA NIM. Por exemplo, se você criou um aplicativo de IA em Python ou Node.js que usa llama3, mistralai ou um dos LLMs proprietários da NVIDIA, você pode instrumentar esses aplicativos com AI Monitoring e visualizar dados de desempenho sobre seus aplicativos.
Nenhuma etapa adicional é necessária para integração com NVIDIA NIM: você pode seguir nossos procedimentos manuais para instalação ou instalar diretamente por meio da plataforma New Relic.
Qual é o próximo?
- Você pode começar instalando AI Monitoring.
- Explore nossa interface AI Monitoring para ver como podemos ajudá-lo a melhorar seu aplicativo com tecnologia de IA.
- Aprenda como manter a conformidade dos dados configurando filtros de descarte.