콘텐츠로 이동

간단한 Chat GPT API(스트림 방식)

필요한 모듈 설치하기

!pip install openai

스트림 방식으로 ChatGPT 호출하기

from openai import OpenAI

client = OpenAI()

stream = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "대한민국의 맛집 5개를 알려줘",
        }
    ],
    model="gpt-4o-mini",
    stream=True,
)

for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

설명

  • ChatGPT에 전송할 때 stream=True 옵션을 지정하면 생성되면서 실시간으로 응답을 받게 됩니다.
  • 우리가 보통 웹브라우저에서 ChatGPT를 사용하는 방법은 모두 stream=True가 적용된 스트림 방식입니다.
  • 실시간으로 응답을 받기 때문에 delta.content에 있는 새로 추가된 데이터만 화면에 출력합니다.