인공지능 대형 언어 모델 API 가격 비교

지난번 포스트에서는 인공지능 챗봇 대형 언어 모델들의 성능을 비교해 보았다. 다양한 모델마다 강점이 다르고, 더 유창한(?) 외국어도 다르다는 걸 확인해 보았다.

 

2024.09.02 - [인공지능] - 인공지능 챗봇 대형 언어 모델 성능 비교 (태스크별, 언어별)

인공지능 챗봇 대형 언어 모델 성능 비교 (태스크별, 언어별)

 

그러나, 무조건 성능이 좋은 모델이 최고라고 할 수 있을까?

 

성능이 아무리 좋더라도 API를 한번 사용할 때마다 그 비용이 높다면, 가격에 비해서는 성능이 그다지 좋지 않다고 할 수 있을 것이다.

 

그래서 단순한 성능비교보다는 가격대비 성능비교를 하는 것이 중요하다. 특히, 무료 챗봇 버전이 아니라, API를 이용하여 어떤 서비스를 만들어보고자 한다면 (혹은 취미 프로젝트를 구현하려고 한다면) - 가격대비 성능이 훨씬 더 중요하게 다가올 것이다.

 

시중에 사용 가능한 대형 언어 모델 API의 가격과 성능을 한눈에 정리해서 보여주고 있는 LLM Compare에서 2024년 9월 3일 자 모델의 가격 vs 성능 순위 그래프를 아래와 같이 공개하고 있다:

 

차트의 왼쪽으로 갈수록 API 사용 가격이 저렴한 것이고, 차트의 위로 올라갈수록 성능이 높아진다. 지난번의 포스트에서 살펴본 바와 같이 현재 성능 1위는 ChatGPT 4o 모델이다. 그러나, ChatGPT 4o 모델의 경우 인풋 가격이 1M 토큰당 $5, 아웃풋 가격이 1M 토큰당 $15로 꽤나 비싼 편이다. 성능 순위 2위인 Gemini 1.5 Pro의 경우, 제한된 테스트 사용의 경우에는 무료이지만, 그렇지 않을 경우 인풋 가격 $3.5 (1M 토큰당), 아웃풋 가격 $10.5 (1M 토큰당)로 챗지피티 4o 모델보다는 저렴하지만, 그래도 여전히 꽤나 비싼 편이다.

 

가격대비 성능 차트의 가장 왼쪽에 (저렴한) 위치한 모델 들 중 높은 성능을 자랑하고 있는 모델은 ChatGPT 4o mini 모델과 Gemini 1.5 Flash 모델이다. 두 모델들 모두 성능 순위에서 공동 6위를 차지하고 있으며, 가격은 ChatGPT 4o mini는 인풋가격 $0.15/ 아웃풋가격 $0.6 (1M 토큰당), Gemini 1.5 Flash는 인풋가격 $0.075/ 아웃풋 가격 $0.3 (1M 토큰당)로 각각 ChatGPT 4o와 Gemini 1.5 Pro에 비교할 때 가격이 2-3% 밖에 하지 않는다. 즉, 같은 길이의 프롬프트 인풋과 같은 길이의 아웃풋을 받을 시 Mini/ Flash 모델을 사용할 경우, 같은 가격으로 API 콜을 무려 25-33회 더 사용할 수 있다는 것이다.

 

따라서, 굳이 ChatGPT 4o나 Gemini 1.5 Pro와 같이 뛰어난 성능의 모델이 요구되는 복잡한 태스크가 아니라면, ChatGPT 4o mini/ Gemini 1.5 Flash 모델을 사용하여 개발 비용을 현저히 줄일 수 있다.

 

매달 업데이트 되는 LLM Compare를 통해 그때그때 이용 가능한 모델들의 API 가격과 성능을 비교해 보고, 각자 본인의 필요에 적합한 모델을 현명히 선택하면 될 것이다.