메인 콘텐츠로 건너뛰기
W&B OpenAI API 인테그레이션을 사용하면 파인튜닝된 모델을 포함한 모든 OpenAI 모델의 요청, 응답, token 수, 모델 메타데이터를 로깅할 수 있습니다.
W&B를 사용해 파인튜닝 실험, 모델, 데이터셋을 추적하고 결과를 동료와 공유하는 방법은 OpenAI 파인튜닝 인테그레이션을 참조하세요.
API 입력과 출력을 로깅하면 다양한 프롬프트의 성능을 빠르게 평가하고, 서로 다른 모델 설정(예: temperature)을 비교하며, token 사용량 같은 기타 사용 메트릭도 추적할 수 있습니다.
OpenAI API 자동 로깅

OpenAI Python API 라이브러리 설치

W&B autolog 인테그레이션은 OpenAI 0.28.1 이하 버전에서 작동합니다. OpenAI Python API 0.28.1 버전을 설치하려면 다음을 실행하세요.
pip install openai==0.28.1

OpenAI Python API 사용하기

1. autolog 임포트 및 초기화

먼저 wandb.integration.openai에서 autolog를 임포트한 다음 초기화합니다.
import os
import openai
from wandb.integration.openai import autolog

autolog({"project": "gpt5"})
wandb.init()에서 받을 수 있는 인자를 담은 딕셔너리를 autolog에 선택적으로 전달할 수 있습니다. 여기에는 프로젝트 이름, 팀 이름, entity 등이 포함됩니다. wandb.init()에 대한 자세한 내용은 API 레퍼런스 가이드를 참조하세요.

2. OpenAI API 호출

이제 OpenAI API에 보내는 각 call은 자동으로 W&B에 로깅됩니다.
os.environ["OPENAI_API_KEY"] = "XXX"

chat_request_kwargs = dict(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers"},
        {"role": "user", "content": "Where was it played?"},
    ],
)
response = openai.ChatCompletion.create(**chat_request_kwargs)

3. OpenAI API 입력과 응답 보기

step 1에서 autolog가 생성한 W&B run 링크를 클릭합니다. 그러면 W&B App의 프로젝트 Workspace로 이동합니다. 생성한 run을 선택하여 사용된 OpenAI LLM의 트레이스 table, 트레이스 타임라인, 모델 아키텍처를 확인합니다.

autolog 끄기

W&B는 OpenAI API 사용이 끝나면 모든 W&B 프로세스를 종료할 수 있도록 disable()을 호출할 것을 권장합니다.
autolog.disable()
이제 inputs와 completion가 W&B에 로깅되어, 분석하거나 동료와 공유할 준비가 됩니다.