Tutorial de NerdGraph: Configurar herramientas y documentos de RAG

avance

Todavía estamos trabajando en esta característica, ¡pero nos encantaría que la probaras!

Esta característica se proporciona actualmente como parte de un programa de vista previa de conformidad con nuestras políticas de prelanzamiento.

Con New Relic, puedes mejorar el agente NRAI con RAG. Esto significa que puede asociar documentación, runbooks, retrospectivas de incidentes e incluso código fuente con sus servicios, lo que le brinda a NRAI mejor información valiosa sobre problemas con su sistema.

Comience a usar RAG

Obtenga el ID de su organización

{
  actor {
    organization {
      id
    }
  }
}

Crear una herramienta RAG

¡Cabe señalar que el nombre y la descripción de su herramienta RAG son extremadamente importantes! El LLM elegirá aprovechar una herramienta al responder a un símbolo en función de la precisión del nombre y la descripción de la herramienta.

mutation {
  entityManagementCreateRagTool(
    ragToolEntity: {
      description: "Runbooks for resolving incidents with APIs",
      name: "API Runbooks",
      scope: {id: `${ORGANIZATION_ID}`, type: ORGANIZATION}}
  ) {
    entity {
      id
    }
  }
}

Subir un documento a la API de Blob

Tenga en cuenta que este paso específico no se realiza a través de NerdGraph. Esto se debe a que NerdGraph admite la carga de archivos a través de sus API.

curl -X POST https://blob-api.one-service.newrelic.com/v1/e/organizations/$ORGANIZATION_ID/RagDocuments \
    -H 'Api-Key: NRAK-XXXXXXXXXX' \
    -H 'NewRelic-Entity: {"name": "Runbooks for API service" }' \
    -H 'Content-Type: application/json' \
    -d @incidents.json

La respuesta se verá así:

{
  "{entityGuid}": "MTIyODU0NTN8TkdFUHxSQUdfRE9DVU1FTlR8MDE5NGUyOTgtYmQzMS03NzA4LWI3NzItYzQ4MTZlYjNhYThk",
  "blobVersionEntity": null
}

Ver la entidad del documento RAG representada en NerdGraph

{
  actor {
    entityManagement {
      entity(
        id: `${RAG_DOCUMENT_GUID}`
      ) {
        ... on EntityManagementRagDocumentEntity {
          id
          name
          blob {
            url
          }
          type
        }
      }
    }
  }
}

Ahora que tenemos una herramienta RAG y un documento RAG, necesitamos asociarlos entre sí. Esto se hace a través de las API de gestión de entidades en NerdGraph.

Crear una relación entre el documento RAG y la herramienta RAG

mutation {
  entityManagementCreateRelationship(
    relationship: {
      source: {
        scope: ORGANIZATION,
        id: `${RAG_DOCUMENT_GUID}`
      },
      target: {
        scope: ORGANIZATION,
        id: `${RAG_TOOL_GUID}`
      },
      type: "INDEXED_FOR"}
  ) {
    relationship {
      type
      target {
        id
        type
      }
      source {
        id
        type
      }
    }
  }
}

Consulta para ver las relaciones entre los Documentos RAG y las Herramientas RAG

{
  actor {
    entityManagement {
      relationships(
        filter: {sourceId: {eq: `${RAG_DOCUMENT_ID}`}}
      ) {
        items {
          type
          target {
            id
            type
          }
        }
      }
    }
  }
}

Consulta la herramienta RAG

Puede consultar su herramienta RAG y recibir coincidencias fragmentadas basadas en los documentos indexados para una herramienta determinada. Puede emplear NRAI para resumir las coincidencias de fragmentos devueltos, o puede emplear las API de NerdGraph para recuperar la coincidencia y emplear su propia IA en sus propios sistemas.

{
  actor {
    machineLearning {
      ragQueryData(prompt: "tell me about the incident", toolId: `${RAG_TOOL_GUID}`) {
        blobId
        chunk
        documentId
        score
        toolId
      }
    }
  }
}