가혹한 토큰 경제학

그동안 대다수 기업들은 AI를 무료 혹은 비교적 저렴한 비용으로 이용해왔다. (구독 모델을 허용한 기업이라면 지금도 저렴한 편이다.)

현재 시점에서는 AI 기업들이 감당하던 재정적 출혈이 임계점에 다다르고 있는 실정이다. 데이터 센터를 짓는 비용, 컴퓨팅 파워 연산 비용은 아킬레스건으로 언급되고 있다.

과거 사례지만 오픈 소스 AI 에이전트 툴인 '오픈클로(OpenClaw)'가 선풍적인 인기를 끌면서 과도한 트래픽이 발생하자, 엔스로픽(Abnthropic)은 API 과금 방식으로 유도했던 사건도 있었다. 이는 구독 모델이 자율형 AI 에이전트 시대에 연산 비용을 감당할 수 없을을 보여주는 단편적인 사례다.

현재 AI 인프라에 투입되는 수조 달러 규모의 자금을 회수하고 10%의 영업이익률이라도 맞추려면, AI 기업들은 2029년까지 연간 2조 달러에 달하는 매출을 올리거나 토큰(Token) 소비량을 현재의 5만~10만 배 수준으로 폭증시켜야 한다. 그러나 프론티어 모델이 나오면 연산 비용이 증가하게되고 이를 사용자에게 전가하자니 고객 이탈이 두렵고, 그 비용을 떠안자니 출혈이 발생하는 외통수에 걸린 셈이다. (출처: https://finance.yahoo.com/economy/policy/articles/horrible-economics-ai-starting-come-140914239.html)

이런 상황에서 OpenAI, Meta, xAI 등의 기업들은 모델 성능만 높이던 경쟁에서 벗어나 '비용 효율성'을 내세우는 전략을 취하고 있다.

OpenAI는 GPT-5.6을 출시하면서 성능 향상과 토큰 수를 대폭 줄여 비용을 절감했다고 강조하고 있다. 또한 최근 Cursor를 인수한 SpaceXAI도 Grok-4.5를 출시하면서 Opus대비 약 2배 수준의 뛰어난 토큰 효율성을 강조하고 있다. (출처: https://www.techmeme.com/260712/p8)

이전 글 토큰맥싱의 문제점(https://www.giljae.com/2026/07/tokenmaxxing.html)에서 언급했듯이 기업의 입장에서는 토큰 비용이 부담일 수 밖에 없다. 그 상황을 전략적으로 포커싱했다고 생각한다.

Meta도 클라우드 인프라 제공 등의 비즈니스 다각화를 통해 인프라 비용 부담을 분산하는 전략을 취하고 있다.

이런 점들을 볼때, 미국 기업들은 모델 성능외에 '단가 싸움'에서도 이겨야 살아남는 국면에 들어섰다.

미국 기업들이 이런 전략을 취하게 된 이유 중에 하나는 중국의 기업들의 가성비 틈새 시장 공략도 한몫했다고 생각한다.

중국 AI 기업들은 모델 성능을 추격하면서 비교가 불가능할 정도로 저렴한 단가 혹은 오픈 모델 형태로 시장에 공급하고 있다.

실제 엔터프라이즈 기업들은 AI 도입 비용이 예상보다 비싸다고 느끼고 있고, 비용 관리에 민감해진 상태다. 이런 상황에서 굳이 높은 단가의 미국 프론티어 모델을 쓸 필요가 있을까? 고민을 하게 된다. 일상적인 업무(단순 정보 분류, 기본 코드 작성, 문서 초안 생성 등)에는 중국의 가성비 모델을 사용하고 있다.

x에서 코인베이스 CEO가 70% 정도는 Deepseek을 쓴다고 했듯이, 이런 현상들은 점점 가속화 될 것이라 생각한다.

또한 고비용 모델과 저비용 모델을 오가며 활용할 수 있도록 중개해주는 '모델 라우팅(Model Routing)' 기술이 시장에서 주목을 받고 있고, 이미 많은 서비스들이 나와있는 상태다. (e.g. OpenRouter)

성능 중심의 미국 빅테크 독주 체제에서, 비용 절감이라는 실리를 챙기려는 시장의 니즈가 중국 AI 모델에게 기회의 문을 더 열어줄 것인지 궁금해진다.

참고: Openrouter LLM leaderboard

오픈라우터가 전세계 모델 사용량을 대변하진 않지만, TOP 10내에 8, 9위를 제외하고는 모두 중국 모델이다. 시장은 모델 성능도 원하지만, 비용 절감도 강하게 원한다는 신호로 볼 수 있다.