지난주까지 이 지면에서는 금리와 고용, 반도체 공급망 같은 익숙한 숫자를 다뤘습니다. 이번에는 조금 다른 숫자를 봤습니다. 기업이 AI 모델을 호출할 때 내는 비용, 정확히는 추론(inference) 단가가 올해 들어 가장 낮은 수준으로 떨어졌다는 소식입니다. 그런데 이 숫자만 보고 “기업의 AI 비용 부담이 줄었다”고 바로 결론 내리기엔 이릅니다. 값싸진 것이 정확히 무엇이고, 그 절감분이 실제로 누구의 몫이 되는지를 먼저 나눠볼 필요가 있습니다.
연중 최저치, 정확히 무엇을 잰 숫자인가
글로벌이코노믹은 8월 12일, Jefferies가 인용한 Silicon Data 통계를 근거로 8월 6~8일 평균 AI 추론가격이 100만 토큰당 1.16~1.18달러로 연중 최저였다고 전했습니다. 5월 31일의 2.04달러와 비교하면 약 42~43% 낮아진 수치입니다. 다만 이 지수가 어떤 모델과 트래픽을 어떤 비중으로 섞어 계산했는지, 산식은 아직 공개되지 않았습니다. 그래서 저는 이 숫자를 ‘기업이 실제로 부담하는 AI 총비용’이 아니라 ‘민간 집계 기준의 평균 API 호출단가’로 읽습니다. 최저치라는 말 자체는 사실이지만, 대표성과 계산 방식을 알 수 없는 지수라는 단서는 붙여야 공정합니다.
두 회사의 공식 가격표가 말해주는 것
이 하락의 배경에는 미국 선도 기업의 저가 모델 등급 확대와 가격 경쟁, 중국계 공개 가중치(오픈웨이트) 모델의 확산이 함께 있습니다. 실제 공식 가격표를 놓고 보면 더 선명해집니다.
OpenAI는 7월 9일 공개한 GPT-5.6에서 등급별로 가격을 나눴습니다. 최상위 Sol은 100만 토큰당 입력 5달러·출력 30달러, 중간 Terra는 입력 2.50달러·출력 15달러, 경량 Luna는 입력 1달러·출력 6달러입니다. 최근 “GPT-5.6이 출시 후 요금을 80% 내렸다”는 말이 돌지만, 확인해보면 이 80%는 Luna가 Sol보다 80% 저렴하다는 모델 등급 간 가격 차이를 설명한 표현입니다. 출시 이후 요금표 자체를 80% 인하했다는 근거는 공식 자료에서 찾지 못했습니다. 값싼 등급을 고르면 확실히 저렴하지만, 이건 ‘가격 인하’가 아니라 ‘등급 선택’의 문제에 가깝습니다.
중국 DeepSeek의 V4 Flash 공식 가격은 100만 토큰당 캐시 적중 입력 0.0028달러, 캐시 미적중 입력 0.14달러, 출력 0.28달러입니다. 일부에서 언급하는 “작업당 0.03달러” 또는 “100만 토큰당 0.03달러”라는 단일 수치는 입력·출력·캐시 조건이 서로 다른 이 가격표를 하나로 뭉뚱그린 표현이라 그대로 인용하기는 어렵습니다. 다만 방향성은 분명합니다. DeepSeek의 출력 단가 0.28달러는 GPT-5.6 Luna의 6달러보다 훨씬 낮습니다.
그렇다고 DeepSeek이 무조건 더 나은 대안이라고 단정할 수도 없습니다. Artificial Analysis가 입력·출력·캐시를 7:2:1 비율로 동일 기준에 맞춰 비교한 결과, GPT-5.6 Luna(xhigh)는 100만 토큰당 0.87달러, DeepSeek V4 Flash 추론형은 0.06달러였습니다. 그런데 같은 비교에서 지능지수는 각각 49와 40으로 차이가 났습니다. 가격만 비교하면 이 성능 격차를 놓치게 됩니다.
가격표, 완료된 업무 비용, 회사 전체 비용은 다른 숫자다
여기서 이번 이슈를 볼 때 가장 중요하다고 보는 지점이 나옵니다. 기업이 실제로 마주하는 숫자는 세 겹으로 나뉩니다. 첫째는 토큰당 목록가격, 둘째는 업무 하나를 성공적으로 끝내는 데 드는 비용, 셋째는 보안·통합·검수까지 합친 회사 전체의 AI 총소유비용입니다.
토큰 가격이 내려간다고 두 번째 숫자가 같이 내려간다는 보장은 없습니다. 추론 강도를 높여 답변 품질을 올리면 내부에서 소비되는 추론 토큰과 출력량이 늘어날 수 있고, 저가 모델일수록 재시도나 사람의 검수가 더 필요해지면 완료 업무당 비용은 오히려 비쌀 수 있습니다. 반대로 간단한 요청은 저가 모델로, 복잡하거나 위험도가 높은 요청만 고성능 모델로 보내는 라우팅을 잘 설계하면 평균비용을 낮출 여지는 분명히 있습니다. 즉 가격 하락의 수혜는 저절로 오는 것이 아니라, 이 라우팅 설계와 캐시 활용을 얼마나 잘하느냐에 달려 있습니다.
세 번째 총소유비용은 더 큰 그림입니다. 값싼 오픈웨이트 모델을 자체 서버에서 돌리면 API 호출료는 아낄 수 있지만, 그 대신 GPU·전력·보안·업데이트·운영인력 비용을 기업이 직접 짊어져야 합니다. 그리고 가격이 내려가 이전엔 비용 때문에 미뤄뒀던 업무까지 AI로 처리할 만해지면, 사용량 자체가 늘어나는 수요 유발 효과가 나타날 수 있습니다. 청구서상 단가는 내려갔는데 총사용량이 늘면서 전체 지출은 그대로이거나 오히려 늘어나는 상황도 충분히 가능합니다.
빅테크는 왜 낮은 가격을 버틸 수 있는가
낮은 가격 경쟁을 감당할 수 있는 쪽은 결국 자본과 인프라를 가진 곳입니다. Microsoft는 2026년 달력연도 자본지출을 약 1900억달러로 제시했고 이 중 약 250억달러는 부품 가격 상승분이라고 밝혔습니다. Meta는 2026년 자본지출 전망을 1300억~1450억달러로 제시했으며 2분기 자본지출은 금융리스 원금 상환을 포함해 310억8000만달러였습니다. Amazon은 2200억달러로, Alphabet은 1950억~2050억달러로 계획을 높였습니다. 이 네 회사의 최신 계획을 단순 합산하면 7350억~7600억달러에 이릅니다. 다만 이 금액 전부가 AI 모델 서빙에만 쓰이는 것은 아니고, 일반 클라우드·네트워크·물류 같은 다른 용도도 섞여 있다는 점은 짚어야 합니다.
이 정도 규모의 자본은 자체 칩과 대규모 데이터센터, 높은 가동률, 기존 클라우드 고객 기반으로 이어집니다. 모델 호출 가격을 낮게 유지하면서도, 모델 계층에서 줄어들 수 있는 마진이나 투자 회수 부담을 클라우드 소비와 소프트웨어 매출까지 포함한 사업 전체에서 감당할 여지가 생깁니다. 자본이 부족한 독립 모델 기업에는 없는 선택지입니다.
중국 오픈웨이트는 가격을 낮추지만 공짜는 아니다
DeepSeek을 필두로 한 중국 오픈웨이트 모델의 확산은 이 경쟁의 또 다른 축입니다. 공개된 가중치를 누구나 내려받아 API 호출료 없이 자체 운영할 수 있다는 사실만으로 모델 계층 전체의 가격 결정력이 약해집니다. 다만 라이선스 조건과 인프라·운영 비용까지 무료라는 뜻은 아닙니다.
여기서 두 가지는 구분해야 합니다. 하나는 ‘오픈웨이트=완전 무료·무제한 상업 이용’이라는 오해입니다. 공개 가중치라는 이유만으로 어떤 국가, 어떤 업종에서든 제한 없이 상업적으로 쓸 수 있는 것은 아닙니다. 기업이 중국계 또는 오픈웨이트 모델을 도입할 때는 데이터 저장 위치, 데이터의 국외 이전, 기밀정보 처리 방식, 공급자 약관과 모델별 라이선스를 업종과 국가 기준에 맞춰 별도로 검토할 필요가 있습니다. 다른 하나는 자체 호스팅 비용입니다. API 호출료를 아낀다고 비용이 사라지는 게 아니라, 그 비용이 하드웨어와 운영 인력 쪽으로 자리를 옮길 뿐입니다.
두 가지 해석과 더 설득력 있다고 보는 쪽
이 흐름을 두고는 상반된 해석이 가능합니다. 낙관적으로 보면, 단가 하락이 AI 도입 문턱을 낮춰 그동안 비용 때문에 미뤄뒀던 업무 자동화 수요를 터뜨리고, 공급자는 낮은 마진을 압도적인 사용량으로 메울 수 있습니다. 반대로 비관적으로 보면, 이 가격 경쟁은 자본이 넉넉한 사업자들의 보조금 경쟁에 가까울 수 있고, 모델 자체의 차별화와 마진을 갉아먹어 독립 스타트업의 구조조정과 시장 집중을 앞당길 수 있습니다.
저는 이 두 해석이 동시에 진행 중이라고 봅니다. 다만 더 무게를 두는 쪽은 후자에 가깝습니다. 토큰 단가가 내려갈수록 모델 자체의 가격 결정력은 약해지고, 이는 결국 ‘어떤 모델을 쓰느냐’보다 ‘모델을 어떻게 조합하고 운영하느냐’가 더 중요한 경쟁 요소가 된다는 뜻입니다. 빅테크가 AI 매출과 이익을 API 부문만 따로 떼어 공시하지 않기 때문에, 가격 하락과 회사 전체 마진의 인과관계를 외부에서 직접 확인할 방법은 없습니다. 따라서 이번 저점을 모든 기업의 AI 비용곡선이 똑같이 낮아졌다는 증거로 일반화해서는 안 됩니다.
이번 변화를 ‘AI가 싸졌다’는 신호보다 ‘모델 호출료가 상품화되는 전환점’으로 읽는 편이 타당합니다. 현재 확인되는 핵심은 토큰 가격의 향방 자체보다 모델 호출료의 가격 결정력이 약해지고 있다는 점입니다. 기업의 실제 수혜 여부는 가장 싼 모델을 골랐는지가 아니라, 라우팅과 캐시로 완료 업무당 비용을 낮추고 데이터·보안 통합 비용까지 통제했는지로 판단해야 합니다.
참고 자료
- 글로벌이코노믹, “기업용 AI 비용 최저치 하락… 빅테크 치킨게임과 中 ‘초저가 오픈소스’ 영향” – https://www.g-enews.com/article/Global-Biz/2026/08/2026081123273982920c8c1c064d_1
- OpenAI, GPT-5.6 출시 및 공식 가격 – https://openai.com/index/gpt-5-6/
- OpenAI API, GPT-5.6 모델 가격표 – https://developers.openai.com/api/docs/models/gpt-5.6-luna
- DeepSeek API 공식 모델·가격표 – https://api-docs.deepseek.com/quick_start/pricing/
- Artificial Analysis, GPT-5.6 Luna vs DeepSeek V4 Flash 비교 – https://artificialanalysis.ai/models/comparisons/gpt-5-6-luna-xhigh-vs-deepseek-v4-flash
용어 풀이
- 토큰: AI 모델이 텍스트를 처리하는 최소 단위로, API 요금은 대개 입력·출력 토큰 수를 기준으로 매겨집니다.
- 캐시 적중: 이전에 처리한 내용을 다시 계산하지 않고 저장해둔 결과를 재사용하는 것으로, 캐시가 적중되면 같은 토큰이라도 요금이 크게 낮아집니다.
- 오픈웨이트: 모델의 학습된 가중치 파일을 공개해 누구나 내려받아 자체 서버에서 실행할 수 있게 한 방식으로, 소스코드 전체를 공개하는 오픈소스와는 조건이 다를 수 있습니다.
- 라우팅: 요청의 난이도나 위험도에 따라 서로 다른 가격·성능의 모델로 자동 분배하는 방식으로, 평균 비용을 낮추는 핵심 수단입니다.
- 총소유비용: 구매·이용 가격뿐 아니라 운영, 보안, 인력, 통합까지 포함한 전체 비용 개념입니다.
본 글은 투자 권유가 아닌 정보 공유 목적입니다. 투자 판단과 책임은 본인에게 있습니다.