토큰은 공짜로 수렴하는데, 청구서는 왜 그대로일까요

100만 토큰에 0.11달러입니다. 즈닷에이아이의 GLM-4.5가 입력 토큰에 매긴 가격입니다. 출력은 100만 토큰당 0.28달러입니다. 미니맥스, 딥시크, 큐웬, 키미도 입력은 0.1달러대, 출력은 0.2에서 0.3달러대에서 경쟁하고 있습니다. 2025년 초만 해도 10퍼센트에 못 미치던 중국 모델의 글로벌 토큰 소비 점유율이 2026년 중반 50퍼센트 수준까지 올라왔다는 집계가 나올 정도입니다. 숫자만 보면 결론은 단순합니다. 모델은 상품이 되었고, 값은 0을 향해 달려간다는 이야기입니다.

그런데 같은 날 아침, 정확히 반대 방향을 가리키는 소식이 하나 더 도착했습니다. 엔비디아가 블랙웰 GPU의 기밀 컴퓨팅 기술을 내세우며, 추론 중인 기업 데이터와 독점 모델 가중치를 하드웨어 수준에서 지킨다고 밝힌 것입니다. 한쪽에서는 모델을 돌리는 값이 붕괴하는데, 다른 쪽에서는 그 모델을 안전하게 돌리는 데 새로운 값이 붙습니다. 이 어긋남이 오늘 다이제스트가 던지는 진짜 질문입니다.

같은 날, 두 개의 반대 신호

가격 전쟁의 논리는 명료합니다. 중국계 모델은 오픈라우터 주간 토큰 사용량 상위권을 휩쓸 만큼 실제 채택으로 이어지고 있고, 이에 오픈AI와 앤스로픽도 자사 토큰 가격 인하를 검토하는 방어적 대응에 나섰습니다. 상장을 앞둔 프론티어 랩은 8000억에서 9000억 달러 수준의 기업가치가 거론되는데, 서비스 단가가 급락하면 그 밸류에이션을 떠받치던 스토리가 흔들립니다. 모건스탠리 추정으로 2028년까지 전 세계 AI 데이터센터 건설에 누적 2조9000억 달러가 투입된다는데, 토큰값이 10분의 1로 내려가면 그 막대한 자본을 회수할 셈법 자체가 어려워집니다. 그러니 토큰이 싸질수록 프론티어 랩은 초조해지고, 도입 기업은 반가워하는 구도가 자연스럽게 그려집니다.

기밀 컴퓨팅 소식은 이 그림에 균열을 냅니다. 엔비디아의 방식은 원격 검증 서비스가 GPU 하드웨어 보고서와 CPU 신뢰 실행 환경의 측정값을 참조 무결성 매니페스트와 대조하고, 검증되지 않은 실행 환경에서는 모델 복호화 키나 민감 데이터를 아예 쓰지 못하게 막는 구조입니다. AMD와 인텔이 CPU 쪽에서 먼저 제공하던 기밀 컴퓨팅을 GPU까지 확장한 흐름이고, 미국의 코르벡스는 이미 HGX B200 시스템에서 실운영에 적용했습니다. 실험 단계를 지나 상용화 국면으로 들어섰다는 신호입니다. 여기서 중요한 대목은 처리량 저하가 거의 없다는 평가입니다. 성능을 깎지 않고도 신뢰를 증명하는 장치가 붙었다는 뜻입니다.

두 소식을 나란히 놓으면 하나의 문장으로 정리됩니다. 모델을 부르는 값은 내려가지만, 그 모델을 믿고 쓰는 값은 그대로거나 오히려 올라갑니다. 값은 증발하지 않았습니다. 자리를 옮겼을 뿐입니다.

값은 사라지지 않고 자리를 옮깁니다

세 번째 소식이 이 이동을 한 번 더 확인해 줍니다. 아마존이 2005년부터 운영해 온 크라우드소싱 라벨링 플랫폼 메커니컬 터크가 2026년 7월 30일부터 신규 고객을 받지 않기로 했습니다. 이미지 분류와 음성 전사, 데이터 정제 같은 AI 학습용 라벨링의 표준 통로였던 서비스가 사실상 동결 모드로 들어간 것입니다. 배경에는 씁쓸한 데이터 한 줄이 있습니다. 2023년 분석에서 이 플랫폼 작업자의 33에서 46퍼센트가 이미 대형언어모델을 써서 작업을 처리한 것으로 나타났습니다. 사람이 라벨을 붙이라고 만든 자리에 모델이 들어와 앉은 셈입니다.

그렇다고 라벨링이라는 일 자체가 사라진 것은 아닙니다. 시장은 2026년 기준 23억에서 28억 달러 규모로 여전히 성장하고 있습니다. 다만 성장의 축이 단순 군중 노동에서, AI가 초안을 만들고 전문 인력이 검수하는 하이브리드 파이프라인으로 옮겨갔습니다. 여기서도 값이 사라진 게 아니라, 단순 반복 노동에서 검수와 품질 보증이라는 상위 공정으로 이동했습니다. 토큰이든 라벨링이든 패턴은 같습니다. 흔한 부분은 공짜에 수렴하고, 값은 그 결과를 안전하게 신뢰할 수 있게 만드는 공정으로 올라갑니다.

이 관점은 어제까지의 통념을 살짝 뒤집습니다. “어떤 모델이 가장 싸고 똑똑한가”는 이제 승부처가 아닙니다. 싸고 똑똑한 모델은 여러 나라에 넘칩니다. 진짜 질문은 “그 모델을 우리 데이터 위에서 얼마나 통제된 비용으로, 얼마나 안전하게, 얼마나 증명 가능하게 돌리는가”로 넘어갑니다. 청구서는 여기서 다시 발행됩니다.

병목도 함께 옮겨 다닙니다

값의 이동은 소프트웨어에서만 벌어지는 일이 아닙니다. 오늘 다이제스트에는 버티브가 말레이시아에 제조시설을 새로 세워 AI 데이터센터의 전력과 냉각 공급망을 넓힌다는 소식이 실렸습니다. 전자와 정유 업계가 액침냉각 선점에 뛰어들었다는 기사도 함께입니다. 몇 해 전만 해도 AI 인프라의 병목은 오직 GPU 한 가지였습니다. 칩만 확보하면 나머지는 따라온다고들 했습니다. 그런데 고밀도 GPU 클러스터가 뿜어내는 열을 물로 식혀야 하는 단계에 오니, 이제는 전력과 냉각이 새로운 관문이 되었습니다.

패턴이 앞서 본 것과 똑같습니다. 흔해진 자원은 값이 내려가고, 값은 그 자원을 실제로 감당 가능한 상태로 만드는 공정으로 이동합니다. GPU가 귀할 때는 GPU가 값을 매겼지만, GPU가 흔해지자 그 GPU를 24시간 안전하게 돌리는 전력과 냉각이 값을 매깁니다. 토큰이 흔해지면 그 토큰을 안전하고 통제되게 소비하는 계층이 값을 매기는 것과 정확히 같은 이치입니다. 물리 인프라든 추론 소프트웨어든, 병목은 늘 한 칸씩 위로 올라갑니다.

청구서가 옮겨간 세 곳

첫째는 비용 통제입니다. 국내에서도 대형언어모델을 도입한 기업들이 무분별한 토큰 호출로 월 수천 달러대 추가 지출에 부딪히는 사례가 늘고 있습니다. 최상위 모델 하나만 고집하면 값싼 토큰의 시대에도 청구서는 줄지 않습니다. 업무 성격에 따라 저비용 오픈소스 모델과 고성능 모델을 실시간으로 갈아 끼우는 라우팅이 곧 경쟁력이 되는 이유입니다. 값이 싼 재료가 널렸다는 사실과, 그 재료를 낭비 없이 쓴다는 사실은 전혀 다른 문제입니다.

둘째는 안전한 실행입니다. 금융과 공공, 제조와 의료처럼 민감 데이터를 다루는 곳은 그동안 규제 때문에 데이터를 외부 GPU 인프라에 올리기를 꺼려왔습니다. 기밀 컴퓨팅이 검증되면 이 장벽은 낮아지지만, 동시에 새로운 확인 항목이 생깁니다. 어느 클라우드에 올리느냐를 넘어, 추론이 도는 순간 데이터와 모델 가중치가 실제로 어떻게 격리되고 검증되는지를 도입 단계에서 따져야 합니다. 값싼 모델을 안전하지 않은 자리에서 돌리면, 절감한 토큰값보다 큰 대가를 치를 수 있습니다.

셋째는 감사 가능성입니다. 라벨링 사례가 보여주듯, 결과물을 그냥 믿을 수 없는 시대입니다. 사람이 하라던 일을 모델이 대신하고, 그 사실이 뒤늦게 드러납니다. 모델이 무엇을 근거로 어떤 도구를 호출해 어떤 결정을 내렸는지 기록이 남지 않으면, 저렴하게 얻은 답의 신뢰도를 나중에 증명할 방법이 없습니다. 토큰값을 아끼려고 여러 모델을 갈아 끼우는 순간, 이 문제는 더 커집니다. 어제는 A 모델이, 오늘은 B 모델이 같은 업무를 처리했다면, 두 결과의 차이를 설명할 근거가 어딘가에는 남아 있어야 합니다. 규제 산업일수록 이 기록은 선택이 아니라 도입 조건입니다. 값이 싼 모델을 마음껏 쓰는 자유는, 그 사용을 낱낱이 되짚을 수 있는 기록 위에서만 안전하게 성립합니다.

에이전트 네이티브 클라우드라는 렌즈

세 청구서를 한자리에 모아 보면, 그것들이 서로 다른 문제가 아니라 하나의 계층에 속한다는 점이 드러납니다. 모델을 고르는 계층이 아니라, 모델을 실제로 실행하는 계층의 문제입니다. ThakiCloud의 Paxis를 이 렌즈로 설명하면 이해가 빠릅니다. Paxis는 스킬과 도구, 정책과 감사 로그를 일급 리소스로 다루는 에이전트 네이티브 클라우드입니다. 방금 짚은 세 청구서가 곧 이 제품의 설계 축입니다.

비용 통제는 작업별로 적정 모델을 고르는 코스트라우터가 받습니다. 딥시크나 큐웬 같은 저비용 오픈소스 모델을 소버린 온프렘 환경에서 직접 구동하려는 수요를, 값싼 토큰의 시대는 오히려 키웁니다. 안전한 실행은 격리 샌드박스와 정책 게이트가 맡습니다. 자율도를 L0에서 L3까지 나눠 두고, 위험한 동작은 정책이 먼저 걸러냅니다. 감사 가능성은 감사 로그가 책임집니다. 에이전트가 어떤 스킬과 어떤 MCP 커넥터를 통해 무엇을 실행했는지가 기록으로 남습니다. 별도로 붙이는 부가 기능이 아니라, 처음부터 리소스로 존재한다는 점이 핵심입니다. 이 셋이 소버린 온프렘 쿠버네티스 위에서 함께 돈다는 사실도 오늘 뉴스와 맞닿습니다. 데이터를 국경 밖으로 내보내지 않으면서도, 값싼 모델을 통제된 비용으로 안전하게 돌리는 자리가 바로 여기이기 때문입니다.

오늘 다이제스트에는 소버린 AI 데이터센터에 1천조원을 투자한다는 정부 드라이브도, 영남권 312조원 민간 투자 소식도, 네이버의 하이퍼클로바X 수익화 시도도 함께 담겼습니다. 모두 인프라의 크기를 키우는 이야기입니다. 그러나 인프라가 아무리 커져도, 그 위에서 값싼 모델을 통제된 비용으로 안전하게 돌리고 그 실행을 증명하는 계층이 비어 있으면 청구서는 계속 새어 나갑니다. 토큰이 공짜가 되는 흐름은 되돌릴 수 없습니다. 그렇다면 남은 승부는 공짜가 되지 않는 자리, 즉 실행을 다루는 방식에서 갈립니다.

그래도 남는 반론

물론 이 논리에도 약점은 있습니다. 값싼 토큰이 정말로 충분히 좋고 충분히 싸지면, 안전한 실행과 감사 같은 상위 공정마저 그 흔한 모델이 알아서 처리해 버릴 수 있다는 반박이 가능합니다. 실제로 라벨링 검수를 다시 모델이 대신하기 시작한 것처럼 말입니다. 이 반론은 진지하게 받아들일 가치가 있습니다. 다만 한 가지가 걸립니다. 모델이 스스로를 검수하고 스스로의 실행을 증명하도록 맡기는 순간, 우리는 그 판단의 근거를 다시 외부에서 확인할 방법을 잃습니다. 규제 기관과 감사인은 모델의 자기 보고를 증거로 받지 않습니다. 값이 실행 계층에 남는 이유는 기술이 부족해서가 아니라, 신뢰는 결국 독립적인 기록과 통제에서 나오기 때문입니다. 그래서 이 계층은 모델이 아무리 좋아져도 쉽게 사라지지 않습니다.

닫으며

가격표 하나에서 시작한 이야기입니다. 100만 토큰에 0.11달러라는 숫자는 모델의 값이 얼마나 빠르게 무너지는지를 보여줍니다. 하지만 같은 날 도착한 기밀 컴퓨팅과 라벨링 종료 소식은, 그 붕괴가 값의 소멸이 아니라 값의 이동임을 말해 줍니다. 기업이 앞으로 지불할 청구서는 어떤 모델을 부르느냐가 아니라, 그 모델을 어떻게 실행하느냐에 적힙니다. 오늘 뉴스를 그 이동 경로의 지도로 읽으면, 다음에 무엇을 준비해야 할지가 조금 더 또렷해집니다.