Open AI API - Open API 설명 및 요금 체계

Open API 설명 및 요금 체계

앞으로 제작할 프로그램은 제작 할 때는 프로그램 내부에서 직접 ChatGPT에게 질문을 하고 답변을 받는 기능을 구현해야 한다. 이런 것을 가능하게 해주는 것이 ChatGPT API이다.

 

 

OpenAI사는 ChatGPT 뿐만 아니라 다양한 모델들을 서비스한다. 대표적인 것으로 Speech to text라고 사람의 음성을 인식하고 대화의 내용을 텍스트로 뽑아주는 Whisper모델도 지원한다.

 

생성하고 싶은 그림에 대한 설명을 입력하면  그림을 만들어주는 Image generation 달리 모델도 지원한다. 이와 같이 Open AI 사에서는 다양한 기능의 모델들을 지원하고 모든 모델들의 API를 지원한다.

 

특히 ChatGPT 같은 언어 모델에 질문을 하고 Prompt engineering 모델에 대해 앞으로 실습해 볼 것이다. 하지만 OpenAI API를 사용하는 것은 유료이다. 프로그램 내에서 ChatGPT와 같은 언어모델에 질문을 하고 답변을 받을 때마다 건 by건으로 요금을 지불해야한다.

 

https://openai.com/pricing

Pricing

 

위 링크에서 Open AI사의 언어모델의 요금표에 대한 자세한 내용을 확인할 수 있다. 특정 모델 안에서도 생성되는 텍스트 길이에 따라서 모델의 종류가 또 나뉜다. 

 

예를들어 위 GPT-4 모델이 있다. 8k와 32k 모델이 있는데 8과 32가 뜻 하는 것은 생성할 수 있는 답변의 길이이다. 8k 모델은 총 8,000개의 토큰만큼 답변을 생성할 수 있고 32k 모델은 3만 2천 개 토큰 만큼 답변을 생성할 수 있다. 많은 답변을 생성을 할 수록 당연히 요금은 비싸질 것이다. 약 두 배 정도의 요금의 차이가 난다.

 

또 Input과 Output의 요금이 다르다. Input은 질문을 할 때 사용되는 토큰의 요금(질문의 text 양) Output은 GPT 모델이 답변을 줬을 때 답변의 길이에 대한 요금이다. 8k 모델은 총 1000개의 토큰을 소비하면 0.03달러가 소모되고 그것에 대한 Chat GPT에 답변이 총 1000개의 토근을 소모할 때마다. 0.06달러 만큼 요금이 청구되는 것이다.