RAG 통합 설정

조직 ID는 귀하의 계정을 고유하게 식별하고 귀하가 만든 모든 RAG 도구, 귀하가 업로드하는 문서 또는 귀하가 설정하는 관계가 귀하의 조직과 연결되도록 보장합니다.

NerdGraph에서 RAG 도구와 문서를 설정하고 관리할 때 변형과 쿼리를 수행하려면 조직 ID가 필요합니다. 다음 쿼리를 실행하고 이후 단계를 위해 조직 ID를 보관하세요.

샘플 쿼리

{
  actor {
    organization {
      id
    }
  }
}

RAG 도구는 뉴렐릭에서 관련 문서와 리소스를 정리하기 위한 특수 컨테이너 역할을 합니다. RAG 도구에 대한 명확한 이름과 정확한 설명은 LLM이 각 프롬프트에 맞는 올바른 도구를 선택하는 데 도움이 되며, 관련성 있고 상황에 맞는 응답을 보장합니다.

NEW렐릭 계정에서 새 RAG 도구를 만들려면 다음 entityManagementCreateRagTool 뮤테이션을 실행하세요.

1. ${ORGANIZATION_ID} 이전 단계에서 얻은 실제 조직 ID로 바꿔야 합니다.

2. 성공하면 RAG 도구에 대한 id 을 받게 됩니다.

   입력스피커, 변수

   반응, 이름	데이터 형식	꼭 필요한가요?	설명
   ragToolEntity	물체	네	새로운 RAG 도구에 대한 설정이 포함된 입력 개체입니다.
   description	문자열	네	RAG 도구의 목적에 대한 명확하고 정확한 설명.
   name	문자열	네	RAG 도구에 대한 고유한 이름입니다.
   scope	물체	네	도구가 생성될 컨텍스트를 정의하는 객체입니다.
   scope.id	문자열	네	귀하의 조직의 고유 ID( ${ORGANIZATION_ID} ).
   scope.type	문자열	네	범위의 유형은 ORGANIZATION 이어야 합니다.

   샘플 돌연변이

   mutation {
     entityManagementCreateRagTool(
       ragToolEntity: {
         description: "Runbooks for resolving incidents with APIs",
         name: "API Runbooks",
         scope: {id: `${ORGANIZATION_ID}`, type: ORGANIZATION}
       }
     ) {
       entity {
         id
       }
     }
   }

   카피

   id 은 이후 단계에서 문서를 도구에 연결하고, 관계를 확인하고, 뉴렐릭에서 관련 정보를 도구에 쿼리하는 데 필요하므로 반환된 값을 저장해야 합니다.

Blob API와 그 목적

Blob API 문서, 런북 등의 파일을 계정에 업로드하기 위해 설계된 뉴렐릭 서비스입니다. NerdGraph는 구조화된 데이터 쿼리와 변형에 최적화되어 있고, 효율적인 파일 전송에는 적합하지 않으므로, 문서를 업로드하려면 Blob API가 필요합니다.

인증 요구 사항

문서를 업로드할 수 있는 권한이 있는 유효한 뉴렐릭 API 키가 필요합니다. Blob API 사용하여 뉴렐릭에 문서를 업로드하기 위한 API 키를 얻으려면:

1. 뉴렐릭 계정에 로그인하세요.

2. API 키 UI 페이지 에서 API 키를 만들고 관리하세요.

3. Create a key [키 만들기를] 클릭하고 필요한 세부 정보를 입력하거나 필요한 권한이 있는 기존 키를 사용합니다.

4. Create a key [키 만들기를] 클릭하고 생성된 키를 복사합니다(NRAK-XXXXXXXXXX와 유사합니다).

   curl bash 명령을 사용하여 문서를 업로드하는 방법의 예는 다음과 같습니다.

   입력스피커, 변수

   반응, 이름	데이터 형식	꼭 필요한가요?	설명
   Api-Key	문자열	네	인증을 위한 뉴렐릭 API 키입니다.
   NewRelic-Entity	JSON 객체	네	문서의 이름 등 해당 문서에 대한 메타데이터입니다.
   Content-Type	문자열	네	업로드되는 파일의 형식(예: application/json ).
   payload ( @incidents.json )	파일	네	파일 경로를 통해 지정되는 업로드하는 문서 파일입니다.

   샘플 쿼리

   bash

   카피

   $
   curl -X POST https://blob-api.service.newrelic.com/v1/e/organizations/$ORGANIZATION_ID/RagDocuments \
   >
        -H 'Api-Key: NRAK-XXXXXXXXXX' \
   >
        -H 'NewRelic-Entity: {"name": "Runbooks for API service" }' \
   >
        -H 'Content-Type: application/json' \
   >
        -d @incidents.json

   샘플 응답

   응답	데이터 형식	설명
   entityGuid	문자열	업로드된 RAG 문서의 고유 식별자입니다.
   blobVersionEntity	물체	업로드된 blob의 버전을 나타냅니다.

   {
     "entityGuid": "MTIyODU0NTN8TkdFUHxSQUdfRE9DVU1FTlR8MDE5NGUyOTgtYmQzMS03NzA4LWI3NzItYzQ4MTZlYjNhYThk",
     "blobVersionEntity": null
   }

   카피

   다음 단계

   문서를 업로드하면 색인이 생성되어 뉴렐릭 AI가 검색하고 검색할 수 있게 됩니다. RAG 도구와의 관계를 생성하거나 NerdGraph에서 문서를 쿼리하려면 응답에서 entityGuid 을 저장해야 합니다.

Blob API 통해 문서가 업로드된 후 이 쿼리를 실행하면 업로드가 성공했고 문서가 RAG 문서로 제대로 등록되었는지 확인할 수 있습니다. 고유한 사용자 및 속성이 있습니다.

입력스피커, 변수

샘플 쿼리

아래 쿼리에서 ${RAG_DOCUMENT_GUID} 플레이스홀더를 이전 단계에서 받은 entityGuid 로 바꾸세요.

{
  actor {
    entityManagement {
      entity(
        id: `${RAG_DOCUMENT_GUID}`
      ) {
        ... on EntityManagementRagDocumentEntity {
          id
          name
          blob {
            url
          }
          type
        }
      }
    }
  }
}

이 쿼리는 RAG 문서에 대한 다음과 같은 세부 정보를 반환합니다.

• id: RAG 문서의 고유 ID입니다.
• name: RAG 문서의 이름.
• blob { url }: 업로드된 문서에 접근하기 위한 URL입니다.
• type: 이 경우 EntityManagementRagDocumentEntity 사고의 유형입니다.

이제 RAG 도구를 만들고, 문서를 업로드하고, 업로드가 성공했는지 확인했으니, 다음 단계는 RAG 도구와 RAG 문서를 연결하여 뉴렐릭 AI가 문서를 검색하고 사용할 수 있도록 하는 것입니다. 이렇게 하려면 entityManagementCreateRelationship 돌연변이를 실행하세요.

1. Blob API를 통한 문서 업로드 응답에서 ${RAG_DOCUMENT_GUID} entityGuid 로 바꾸세요.

2. ${RAG_TOOL_GUID} RAG 도구 생성 돌연변이의 응답에서 id 로 바꾸세요.

   입력스피커, 변수

   반응, 이름	데이터 형식	꼭 필요한가요?	설명
   relationship	물체	네	관계에 대한 세부 정보를 포함하는 입력 개체입니다.
   source	물체	네	이 관계의 출처는 RAG 문서입니다.
   source.scope	문자열	네	소스의 범위는 ORGANIZATION 이어야 합니다.
   source.id	문자열	네	RAG 문서의 고유 GUID( ${RAG_DOCUMENT_GUID} ).
   target	물체	네	RAG 도구인 관계의 터키, 목표를 분리합니다.
   target.scope	문자열	네	구간, 분할의 범위는 ORGANIZATION 이어야 합니다.
   target.id	문자열	네	RAG 도구의 고유 GUID( ${RAG_TOOL_GUID} ).
   type	문자열	네	관계의 유형은 "INDEXED_FOR" 이어야 합니다.

   샘플 돌연변이

   mutation {
     entityManagementCreateRelationship(
       relationship: {
         source: {
           scope: ORGANIZATION,
           id: `${RAG_DOCUMENT_GUID}`
         },
         target: {
           scope: ORGANIZATION,
           id: `${RAG_TOOL_GUID}`
         },
         type: "INDEXED_FOR"
       }
     ) {
       relationship {
         type
         target {
           id
           type
         }
         source {
           id
           type
         }
       }
     }
   }

   카피

이 커넥터를 사용하려면 Atlassian API 토큰이 필요합니다. 이 정보를 뉴럴릭 비밀 관리자에 안전하게 보관하세요.

입력스피커, 변수

샘플 돌연변이

mutation createSecretKey {
  secretsManagementCreateSecret(
    description: "Confluence API token for RAG indexing"
    key: "CONFLUENCE_API_TOKEN"
    namespace: "rag-datafetching"
    scope: { id: "YOUR_ORGANIZATION_ID", type: ORGANIZATION }
    value: "YOUR_CONFLUENCE_API_TOKEN"
  ) {
    key
  }
}

Confluence 인스턴스와의 연결을 정의하세요. 이는 뉴렐릭과 아틀라시안을 연결하는 다리 역할을 합니다.

입력스피커, 변수

샘플 돌연변이

mutation {
  entityManagementCreateConfluenceIntegration(
    confluenceIntegration: {
      name: "Engineering Confluence Integration"
      url: "https://your-company.atlassian.net/wiki"
      confluenceUserId: "your-confluence-user-id"
      secretKey: "CONFLUENCE_API_TOKEN" # From Step 2
      scope: { id: "YOUR_ORGANIZATION_ID", type: ORGANIZATION }
      tags: { key: "department", values: "engineering" }
    }
  ) {
    entity {
      id
    }
  }
}

가져올 콘텐츠와 콘텐츠를 어떤 방식으로 분할할지 정의하는 RAG 설정 엔티티를 생성합니다.

입력스피커, 변수

텍스트 분할기 유형

다음 유형을 사용하여 textSplitterType 트리거를 정의합니다.

• TOKEN_TEXT_SPLITTER정확한 토큰 기반 분할.

• MARKDOWN_TEXT_SPLITTER마크다운 헤더를 기준으로 분할합니다.

• CHARACTER_TEXT_SPLITTER문자 수를 기준으로 분할합니다.

• JSON_TEXT_SPLITTERJSON을 재귀적으로 분할합니다.

  TOKEN_TEXT_SPLITTER 사용하는 경우, tokenTextSplitterOptions 에서 인코딩을 정의하십시오.

• O200K_BASE: GPT-40 이상 모델에 사용 권장.

• CL100K_BASEGPT-4 및 GPT-3.5용입니다.

  샘플 돌연변이

  mutation {
    entityManagementCreateConfluenceRagSettings(
      confluenceRagSettingsEntity: {
        name: "Engineering Docs RAG Settings"
        scope: { id: "YOUR_ORGANIZATION_ID", type: ORGANIZATION }
        confluenceIntegrationId: "INTEGRATION_ID_FROM_STEP_3"
        confluenceQuery: "space = ENG AND type = page"
        intervalSeconds: 3600 # Re-index every hour
        # Chunking Configuration
        chunkSize: 4000
        chunkOverlap: 100
        textSplitterType: MARKDOWN_TEXT_SPLITTER
        # Optional: Markdown-specific options
        markdownTextSplitterOptions: {
          headersToSplitOn: "#,##,###"
          returnEachLine: false
        }
        # Optional: Token splitter options (if using TOKEN_TEXT_SPLITTER)
        # tokenTextSplitterOptions: {
        #   encodingName: O200K_BASE
        # }
  
        # Optional: Character splitter options (if using CHARACTER_TEXT_SPLITTER)
        # characterTextSplitterOptions: {
        #   separator: "\n\n"
        #   isSeparatorRegex: false
        # }
  
        tags: { key: "knowledge_category", values: "documentation" }
      }
    ) {
      entity {
        id
      }
    }
  }

  카피

RAG 설정을 APPLY_TO 관계를 통해 RAG 도구에 연결하면 자동 인덱싱이 활성화됩니다.

입력스피커, 변수

샘플 돌연변이

mutation {
  entityManagementCreateRelationship(
    relationship: {
      source: { id: "RAG_SETTINGS_ID_FROM_STEP_4", scope: ORGANIZATION }
      target: { id: "RAG_TOOL_ID_FROM_STEP_1", scope: ORGANIZATION }
      type: "APPLY_TO"
      tags: { key: "auto_created", values: "true" }
    }
  ) {
    relationship {
      type
    }
  }
}

관계를 설정한 후(INDEXED_FOR 통해 특정 RAG 문서를 연결하거나 APPLY_TO 통해 Confluence 구성을 적용하여) 연결을 확인하고 도구를 쿼리할 수 있습니다. 이를 통해 사용자의 내부 지식이 적절하게 색인화되어 신경 AI가 상황에 맞는 답변을 제공할 수 있게 됩니다.

• ${RAG_DOCUMENT_ID} 업로드한 문서의 entityGuid 로 바꾸세요.

  입력스피커, 변수

  반응, 이름	데이터 형식	꼭 필요한가요?	설명
  relationships	질문	네	파트 간의 관계를 검색하는 쿼리입니다.
  filter	물체	아니요	속성을 기준으로 관계를 필터링하는 데 사용되는 객체입니다.
  filter.sourceId	물체	아니요	소스의 고유 분리로 필터링할 개체입니다.
  filter.sourceId.eq	문자열	아니요	일치시킬 RAG 문서의 고유 GUID입니다.

  샘플 쿼리

  {
    actor {
      entityManagement {
        relationships(
          filter: {sourceId: {eq: `${RAG_DOCUMENT_ID}`}}
        ) {
          items {
            type
            target {
              id
              type
            }
          }
        }
      }
    }
  }

  카피

RAG 도구를 설정하고 문서를 색인한 후 RAG 도구를 쿼리하여 질문에 대한 관련 정보를 검색할 수 있습니다. 이를 통해 뉴렐릭 AI는 귀하의 조직의 문서를 사용하여 상황에 맞는 답변을 표면화할 수 있습니다.

입력스피커, 변수

샘플 쿼리

{
  actor {
    machineLearning {
      ragQueryData(
        prompt: "tell me about the incident", 
        toolId: `${RAG_TOOL_GUID}`
      ) {
        blobId
        chunk
        documentId
        score
        toolId
      }
    }
  }
}

응답에는 색인된 문서에서 일치하는 부분이 포함되며, 직접 사용하거나 뉴렐릭 AI로 요약할 수 있습니다.