Depois de instalar AI Monitoring, você pode configurar o comportamento padrão do agente ou atualizar seu aplicativo para coletar diferentes tipos de dados.
Configurar o agente
Atualize o comportamento padrão do agente para o AI Monitoring nestes documentos de configuração do agente:
Método de contagem token
ai_monitoring.record_content.enabledSe você token não desativou , não API será necessário implementar a de retorno de chamada count .
Desativar ai_monitoring.record_content.enabled impede que o agente envie conteúdo de IA para New Relic, mas também impede que o agente encaminhe contagens token para interação com seu aplicativo. Você pode implementar um retorno de chamada no código do seu aplicativo para determinar as contagens token localmente e, em seguida, encaminhar essas informações para o New Relic.
Consulte os documentos abaixo para obter exemplos de como configurar o token de contagem localmente:
Métodos de feedback do usuário
Se o usuário final puder deixar feedback sobre uma resposta do AI, você poderá encaminhar esses dados para a tabela de respostas AI Monitoring . Para fazer isso, você atualizará o código do seu aplicativo para correlacionar IDs trace de dados de eventos de IA usando métodos de retorno de chamada.
Existem dois métodos que você precisa implementar para encaminhar esse tipo de informação: