OpenAI の統合により、すべての OpenAI クエリをシームレスに監視できます。わずか 2 行のコードを追加するだけで、チームはコスト、応答時間、レート制限、エラー率、チャット履歴、サンプルの入出力などの主要なパフォーマンス指標にアクセスできるようになります。OpenAI の統合は、企業が使用量を最適化し、コストを削減し、より良い結果を達成するのに役立つリアルタイムのメトリクスを提供します。
このガイドでは、OpenAI アプリケーションを統合してデータの監視を開始できるようにする方法を説明します。
Python アプリケーション用にインストールする pip を使用して OpenAI をインストールする OpenAI のインポートが完了したら、次を実行します。
$ pip install nr-openai-observability
環境変数を設定します ライセンスキー を取得し、環境変数NEW_RELIC_LICENSE_KEY
として設定します。
詳細と手順については、 REST API ドキュメント を 参照してください。
$ export NEW_RELIC_LICENSE_KEY = < license key >
os . environ [ "NEW_RELIC_LICENSE_KEY" ] = "<license key>"
NEW_RELIC_LICENSE_KEY
は、 monitor.initialization()
呼び出しのパラメータとして送信することもできます。
コードを変更する 次の 2 行をコードに追加します。
from nr_openai_observability import monitor
ダッシュボードを追加する New Relic アカウントにダッシュボードを追加するには:
from nr_openai_observability import monitor
openai . api_key = os . getenv ( "OPENAI_API_KEY" )
openai . Completion . create (
model = "text-davinci-003" ,
prompt = "What is Observability?" ,
Node.jsでインストールする OpenAIをインストールする npm を使用して次を実行します。
$ npm install @newrelic/openai-observability openai
コードを変更する 構成済みのOpenAI
クライアントを使用してmonitorOpenAI
を呼び出します。
コード例を次に示します。
import { Configuration , OpenAIApi } from 'openai' ;
import { monitorOpenAI } from '@newrelic/openai-observability' ;
const configuration = new Configuration ( {
apiKey : 'OPENAI_API_KEY' ,
const openAIApi = new OpenAIApi ( configuration ) ;
monitorOpenAI ( openAIApi , {
applicationName : 'MyApp' ,
newRelicApiKey : 'NEW_RELIC_LICENSE_KEY' ,
const response = await openAIApi . createChatCompletion ( {
messages : [ { role : 'user' , content : 'What is Observability?' } ] ,
console . log ( response . data . choices [ 0 ] . message ) ;
モジュール タイプをpackage.json
に追加してください:
初期化オプション export interface MonitorOpenAIOptions {
EU アカウントのユーザー EU アカウントを使用している場合は、 EVENT_CLIENT_HOST
を次のように設定する必要があります。
$ export EVENT_CLIENT_HOST = "insights-collector.eu01.nr-data.net"
os . environ [ "EVENT_CLIENT_HOST" ] = "insights-collector.eu01.nr-data.net"
データを検索する OpenAI を統合した後、次の手順に従って可観測性データを検索します。
one.newrelic.com から。
Model Performance
をクリックします。
Applications
で検索します。
どのように機能するか見てみましょう これらの手順が難しい場合は、このデモ ビデオをご覧になることをお勧めします。