간단한 Chat GPT API(스트림 방식)
필요한 모듈 설치하기
스트림 방식으로 ChatGPT 호출하기
from openai import OpenAI
client = OpenAI()
stream = client.chat.completions.create(
messages=[
{
"role": "user",
"content": "대한민국의 맛집 5개를 알려줘",
}
],
model="gpt-4o-mini",
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")
설명
- ChatGPT에 전송할 때 stream=True 옵션을 지정하면 생성되면서 실시간으로 응답을 받게 됩니다.
- 우리가 보통 웹브라우저에서 ChatGPT를 사용하는 방법은 모두 stream=True가 적용된 스트림 방식입니다.
- 실시간으로 응답을 받기 때문에 delta.content에 있는 새로 추가된 데이터만 화면에 출력합니다.