Una vez que instales el monitoreo de IA, puedes configurar el comportamiento predeterminado del agente o actualizar tu aplicación para recopilar diferentes tipos de datos.
Configurar el agente
Actualice el comportamiento predeterminado del agente para el monitoreo de IA en estos documentos de configuración del agente:
Método de recuento token
Si no ha deshabilitado ai_monitoring.record_content.enabled, no token necesita implementar la de devolución de llamada de recuento API.
Deshabilitar ai_monitoring.record_content.enabled impide que el agente envíe contenido de IA a New Relic, pero también evita que el agente reenvíe recuentos token para la interacción con su aplicación. Puede implementar una devolución de llamada en el código de su aplicación para determinar los recuentos token localmente y luego enviar esa información a New Relic.
Consulte los documentos a continuación para ver ejemplos de cómo configurar el token de conteo localmente:
Métodos de opiniones de los usuarios
Si el usuario final puede dejar comentarios sobre una respuesta de IA, puede reenviar estos datos a la tabla de respuestas de monitoreo de IA. Para hacer esto, actualizará el código de su aplicación para correlacionar los ID de traza de los datos del evento IA mediante métodos de devolución de llamada.
Hay dos métodos que debe implementar para reenviar este tipo de información: