Integração OpenAI

Com nossa integração OpenAI, você tem a capacidade de monitor perfeitamente todas as consultas OpenAI. Ao adicionar apenas duas linhas de código, sua equipe pode obter acesso às principais métricas de desempenho, como custo, tempo de resposta, limites de taxa, taxas de erros, histórico de chat e amostras de entradas e saídas. Nossa integração OpenAI fornece métricas em tempo real para ajudar as empresas a otimizar o uso, reduzir custos e obter melhores resultados.

Importante

Para instrumentar seu aplicativo com tecnologia OpenAI, recomendamos o uso AI Monitoring em vez deste método de instalação mais antigo. Consulte nossos documentos para começar.

Este guia mostrará como integrar seu aplicativo OpenAI para que você possa começar a monitorar seus dados.

Instale OpenAI com pip

Depois de concluir a importação do OpenAI, execute:

bash

$pip install nr-openai-observability

Defina sua variável de ambiente

Obtenha seu e defina-o como variável de ambiente: NEW_RELIC_LICENSE_KEY.

Para mais detalhes e instruções, confira nossa documentação da API REST.

bash

$export NEW_RELIC_LICENSE_KEY=<license key>

import os
os.environ["NEW_RELIC_LICENSE_KEY"] = "<license key>"

Seu NEW_RELIC_LICENSE_KEY também pode ser enviado como parâmetro na chamada monitor.initialization() .

Modifique seu código

Adicione as duas linhas a seguir ao seu código:

from nr_openai_observability import monitor
monitor.initialization()

Adicione seu dashboard

Para adicionar o dashboard à sua conta New Relic:

import os

import openai
from nr_openai_observability import monitor

monitor.initialization()

openai.api_key = os.getenv("OPENAI_API_KEY")
openai.Completion.create(
    model="text-davinci-003",
    prompt="What is Observability?",
    max_tokens=20,
    temperature=0 
)

Instale o OpenAI

Use npm e execute:

bash

$npm install @newrelic/openai-observability openai

Modifique seu código

Chame monitorOpenAI com seu cliente OpenAI configurado.

Aqui está um exemplo de código:

import { Configuration, OpenAIApi } from 'openai';
import { monitorOpenAI } from '@newrelic/openai-observability';

const configuration = new Configuration({
  apiKey: 'OPENAI_API_KEY',
});

const openAIApi = new OpenAIApi(configuration);

monitorOpenAI(openAIApi, {
  applicationName: 'MyApp',
  newRelicApiKey: 'NEW_RELIC_LICENSE_KEY',
});

const response = await openAIApi.createChatCompletion({
  model: 'gpt-3.5-turbo',
  messages: [{ role: 'user', content: 'What is Observability?' }],
});

console.log(response.data.choices[0].message);

Certifique-se de adicionar o tipo de módulo a package.json:

"type": "module"

Opções de inicialização

export interface MonitorOpenAIOptions {
  /**
   * Your application name in New Relic, must provided.
   */
  applicationName: string;
  /**
   * API key with insert access used to authenticate the request.
   * For more information on creating keys, please see:
   * https://docs.newrelic.com/docs/insights/insights-data-sources/custom-data/introduction-event-api#register
   */
  newRelicApiKey?: string;
  /**
   * Optional host override for event endpoint.
   */
  host?: string;
  /**
   * Optional port override for trace endpoint.
   */
  port?: number;
}

Usuário da conta da UE e do JP

Se você estiver usando uma conta da UE ou JP, deverá definir seu EVENT_CLIENT_HOST da seguinte forma:

Conta da UE:

bash

$export EVENT_CLIENT_HOST="insights-collector.eu01.nr-data.net"

import os
os.environ["EVENT_CLIENT_HOST"] = "insights-collector.eu01.nr-data.net"

Conta JP:

bash

$export EVENT_CLIENT_HOST="insights-collector.jp.nr-data.net"

import os
os.environ["EVENT_CLIENT_HOST"] = "insights-collector.jp.nr-data.net"

Encontre seus dados

Depois de integrar o OpenAI, siga estas etapas para encontrar dados de observabilidade:

De one.newrelic.com.
Clique em Model Performance.
Pesquise em Applications.

Veja como funciona

Se você estiver tendo dificuldades com essas instruções, recomendamos que assista a este vídeo de demonstração.

Esta tradução de máquina é fornecida para sua comodidade.

Importante

Instalar para aplicativo Python

Instale OpenAI com pip

Defina sua variável de ambiente

Modifique seu código

Adicione seu dashboard

Instalar com Node.js

Instale o OpenAI

Modifique seu código

Opções de inicialização

Usuário da conta da UE e do JP

Encontre seus dados

Veja como funciona