[오늘의 AI] 'AI 토큰 지출 지수' 첫 하락이 던진 경고장

최근 인공지능(AI) 업계의 미래를 가늠해볼 수 있는 매우 흥미롭고도 긴장감 넘치는 지표가 발표됐다. 글로벌 조사기관 실리콘 데이터(Silicon Data)가 집계하는 '대형언어모델(LLM) 토큰 지출 지수'가 지난 5월 최고점을 찍은 이후, 최근 들어 20% 가까이 급락한 것이다. 이 지수는 기업들이 AI 토큰 구매에 지출하는 총금액을 추적하는 핵심 지표다. 지난해 12월 집계 이후 빅테크 기업들의 공격적인 인프라 투자 붐에 힘입어 2배 가까이 폭등했으나, 불과 몇 달 만에 가파른 하락세로 돌아서며 시장에 큰 충격을 주고 있다. 이를 두고 일각에서는 "드디어 AI 거품이 터지기 시작했다"라는 비관론을 제기하는 반면, 다른 한편에서는 "시장이 성숙해지는 과정에서 나타나는 자연스러운 수요 조정"이라며 맞서고 있다. 이 지표의 급락이 의미하는 바는 무엇이며, AI 산업은 지금 어느 방향으로 흘러가고 있는지 기사에 나타난 핵심 요인들을 바탕으로 심층 분석했다.

 

토큰 지출 지수를 하락세로 이끈 3가지 핵심 배경

실리콘 데이터 측은 이번 하락을 단편적인 시장 축소나 수요 절벽으로 해석해서는 안 된다고 경고한다. 해당 지수는 '가격'과 '사용량'을 종합적으로 반영하기 때문에, 지수 감소의 이면에는 다음과 같은 복합적인 구조적 변화가 자리 잡고 있다.

 

1) 기술 발전이 불러온 '토큰 단가의 폭락'

가장 큰 원인 중 하나는 역설적이게도 AI 기술의 급격한 발전이다. 2023년 이후 AI 토큰당 가격은 매년 90% 이상 폭락했다. 빅테크 기업 간의 모델 성능 경쟁과 최적화 기술 개발로 인해 동일한 양의 텍스트를 처리하는 데 드는 비용이 기하급수적으로 저렴해진 것이다. 즉, 실제 기업들의 AI 사용량(트래픽)은 여전히 견고하거나 오히려 늘어났음에도 불구하고, 단가 자체가 너무 낮아지면서 총지출액 지수가 일시적으로 감소해 보이는 '착시 현상'일 수 있다.

 

2) 비싼 단일 모델에서 '가성비·오픈소스'로의 이동

초기 AI 도입 단계에서 대기업들은 무조건 가장 무겁고 성능이 좋은 단일 고성능 모델(예: 오픈AI의 최고 스펙 모델)만을 고집하는 경향이 있었다. 그러나 최근에는 비용 절감을 위해 기업들의 움직임이 영리해졌다. 복잡한 연산이 필요 없는 단순 작업에는 가볍고 저렴한 오픈소스 모델이나 효율성을 극대화한 소형언어모델(sLLM)을 조합하여 사용하는 '멀티 모델' 전략을 취하고 있다. 이러한 수요 이동이 지출 감소로 이어진 것이다.

 

3) '묻지마 도입'의 끝, 수익성 중심의 통제

과거 트렌드에 뒤처지지 않기 위해 무제한으로 AI를 도입하던 시대는 끝났다. 기업들은 이제 높은 비용 부담을 인지하고 있으며, 실제로 생산성이 향상되거나 확실한 수익(ROI)이 창출되는 비즈니스 분야로만 AI 사용을 제한하기 시작했다. 실제로 최근 메타나 테슬라 같은 빅테크 기업들도 사내 AI 비용 폭증에 제동을 걸기 위해 직원들의 토큰 사용량을 제한하는 조치를 취하는 등 지출 관리에 신중을 기하고 있다.

 

시장의 엇갈리는 시선: 낙관론 vs 신중론

이번 현상을 바라보는 전문가들의 시각은 향후 AI 산업의 패권을 두고 팽팽하게 대립하고 있다.

 

낙관론: "실험 단계를 지나 대중화 및 효율화 단계로 진입 중"

데이비드 밀러 카탈리스트 시니어 매니저를 비롯한 낙관론자들은 이번 조정을 매우 긍정적인 신호로 해석한다. 거대한 인프라를 구축하고 모델을 처음부터 훈련(Training)하는 단계에서는 천문학적인 비용이 필수적으로 수반된다.
그러나 이미 구축된 모델을 활용하는 현재의 '추론(Inference)' 단계에 접어들면 기술적 효율화 덕분에 경제성이 눈에 띄게 개선된다는 것이다. 결국 비용이 낮아져야 더 많은 기업과 개인이 부담 없이 AI를 쓸 수 있으므로, 장기적으로는 AI의 실질적 활용을 넓혀 기업들에 확실한 투자수익률(ROI)을 가져다주는 대중화의 초석이 될 것이라는 주장이다.

 

신중론: "투자 대비 턱없이 부족한 매출, 가격 결정력 상실"

반면 과거 '닷컴 버블'의 악몽을 떠올리는 신중론자들의 우려도 만만치 않다. 알리안츠 리서치의 최근 조사에 따르면, 현재 글로벌 AI 분야의 투자 성장률과 실제 매출 성장률 사이에는 무려 46%의 격차가 존재하는 것으로 추산됐다. 이는 과거 2001년 닷컴 버블 당시 통신 분야의 격차였던 32%보다도 훨씬 높은 위험 수준이다.
이는 빅테크 기업들이 천문학적인 돈을 쏟아붓고 있는 것에 비해, 시장에서 확실한 수익 모델을 찾지 못해 '가격 결정력'을 잃어가고 있음을 시사한다. 주식 투자자들에게는 궁극적인 AI 호황에 대한 기대가 잘못된 것일 수 있다는 경고 신호로 읽힌다. 실제로 오픈AI가 기업공개(IPO)를 내년으로 연기한다는 소문이 도는 이유 역시 이러한 근본적인 수익성 문제가 해결되지 않았기 때문이라는 분석이 지배적이다. 여기에 미국 정부가 최첨단 모델 출시를 보류시키는 등 규제 부담을 가하자, 기업들이 규제가 없는 오픈소스로 눈을 돌리며 지수 하락을 부채질했다는 분석도 존재한다.

 

결론: 거품 붕괴인가, 건강한 성장통인가?

지출 지수가 눈에 띄게 하락하면서 시장이 다소 위축된 것처럼 보이지만, 이것이 곧바로 AI 하드웨어 시장의 과잉 공급이나 반도체 불황으로 이어질 가능성은 매우 낮다. 엔비디아의 고성능 GPU나 고대역폭메모리(HBM) 같은 핵심 부품들은 여전히 2026년까지 주문이 밀려 있어 없어서 못 파는 실정이기 때문이다.
결국 이번 LLM 토큰 지출 지수의 조정은 AI 시장의 파멸을 뜻하는 거품 붕괴의 전조 증상이라기보다는, 무조건적인 확장에서 벗어나 비용 효율성을 중시하는 '추론 및 활용 중심 시장'으로 AI 수요의 무게중심이 이동하는 과정에서 나타난 건강한 성장통으로 보는 것이 합리적이다. 이제 AI 산업은 '얼마나 큰 모델을 만드느냐'의 싸움에서 '얼마나 적은 비용으로 실질적인 가치를 창출하느냐'의 싸움으로 전환되고 있다.