통사론
with newrelic.agent.WithLlmCustomAttributes(custom_attribute_map):제작 코드에서 LLM 호출에 의해 생성된 LLM(기능 언어 모델) 이벤트에 사용자 지정 속성을 추가하는 컨텍스트 관리자 API 입니다.
요구 사항
파이썬 에이전트 버전 10.1.0 또는 그 이상.
설명
이 컨텍스트 관리자 API는 LLM에 대한 호출을 기반으로 컨텍스트 내에서 생성된 각 LLM 이벤트에 사용자 지정 속성을 추가합니다. 에이전트는 전달된 사전 인수에 지정된 각 사용자 속성 키 이름에 자동으로 llm. 접두사를 추가합니다. 이 API는 활성 트랜잭션 컨텍스트 내에서 호출되어야 합니다.
이러한 사용자 정의 속성은 뉴렐릭 UI 의 LLM 이벤트 및 쿼리에서 볼 수 있습니다. AI 모니터링에 대한 자세한 내용은 AI 문서를 참조하세요.
매개변수
매개변수 | 설명 |
|---|---|
사전 | 필수의. 각 키/값 쌍이 사용자 정의 속성 이름과 해당 값을 나타내는 비어 있지 않은 사전입니다. |
반환 값
없음.
예
OpenAI 채팅 완료 호출에 사용자 정의 속성 추가
import newrelic.agent
from openai import OpenAI
client = OpenAI()
with newrelic.agent.WithLlmCustomAttributes({"custom": "attr", "custom1": "attr1"}): response = client.chat.completions.create( messages=[{ "role": "user", "content": "Say this is a test", }], model="gpt-4o-mini", )