-->

빅테크와 AI 프런티어 랩이 채권까지 발행하며 GPU를 쓸어담고 있습니다. 2026년 하이퍼스케일러 네 곳(마이크로소프트·구글·메타·아마존)의 합산 캐펙스 추정치는 약 7,250억 달러로, 전년 대비 77% 늘어난 규모입니다. 이쯤 되면 “이게 과잉투자 아니냐”는 의문이 나오는 게 당연합니다. 후발 주자가 증류(distillation)로 훨씬 적은 비용에 비슷한 성능을 따라잡는 시대에, 몇 달 먼저 좋아지는 모델 하나를 위해 수천억 달러를 태우는 게 합리적이냐는 것입니다.

대규모 GPU 데이터센터 게이트웨이와 비대칭 저울을 형상화한 개념 이미지

이 글은 그 의문에 “거품이다 / 아니다”로 답하지 않습니다. 대신 빅테크의 지출을 움직이는 구조적 논리 두 가지를 짚고, 그것이 우리 같은 인프라 사업자와 엔터프라이즈 고객에게 무엇을 의미하는지 정리합니다. 출발점은 X에서 활발히 논의된 한 분석(@Tesla_Teslaway 스레드)이었고, 핵심 수치는 직접 1차 출처로 검증했습니다.

과투자처럼 보이는 이유

증류는 비싼 프런티어 모델의 출력을 모아 저렴한 자체 모델 학습에 쓰는 기법입니다. 후발 주자 입장에서는 프런티어가 먼저 비용을 치러 개척한 능력을 더 싸게 복제할 수 있습니다. 그래서 “선두가 아무리 돈을 부어도 격차는 금세 좁혀진다”는 논리가 성립합니다. 실제로 오픈소스·후발 모델이 상위 모델과의 벤치마크 격차를 빠르게 줄여온 것도 사실입니다.

여기까지만 보면 과투자가 맞습니다. 그런데 선두 기업이 사는 것이 “몇 달치 모델 우위”가 아니라면 셈법이 달라집니다.

비대칭 보험: 선두가 실제로 사는 것

빅테크가 GPU를 사는 진짜 이유는 3~6개월치 성능 우위가 아니라, 능력의 큰 도약이 일어났을 때 그 자리에 직접적인 힘을 가진 플레이어로 남아 있기 위한 보험입니다. 두 시나리오의 손실 크기가 압도적으로 비대칭이기 때문입니다.

도약이 일어났는데 내가 거기 없다면, 검색·클라우드·오피스 같은 조 단위 본업이 순식간에 흔들립니다. 구글이 야후가 되는 시나리오입니다. 반대로 도약이 끝내 안 일어나서 내가 과투자한 것으로 판명되더라도, 본업은 그대로 살아 있고 사들인 GPU와 데이터센터가 0이 되는 것도 아닙니다. 한쪽 꼬리는 “회사의 존재 이유가 사라짐”, 다른 쪽 꼬리는 “감가상각 손실”입니다. 손실의 크기가 이렇게 비대칭이면, 불확실성 속에서 합리적 기업이 택할 수 있는 답은 과투자 쪽으로 기웁니다. 거품이 아니라 비대칭 보상 구조에 대한 합리적 반응이라는 뜻입니다.

“도약”은 똑똑한 챗봇이 아니라 신뢰도 × 태스크 호라이즌입니다

그렇다면 여기서 말하는 도약이 무엇인지가 핵심입니다. 더 똑똑한 챗봇이나 벤치마크 점수 몇 점이 아닙니다. 사람이 개입하지 않아도 여러 단계짜리 작업을 끝까지 무너지지 않고 끌고 가는 능력, 즉 신뢰도와 태스크 호라이즌(task horizon)의 곱입니다.

이 태스크 호라이즌을 실제로 측정한 곳은 METR입니다(원 스레드는 앤트로픽으로 적었으나, 정확한 출처는 METR의 “Measuring AI Ability to Complete Long Tasks” 연구입니다). METR은 AI가 50% 신뢰도로 끝낼 수 있는 작업의 길이(사람 기준 소요 시간)가 2019년부터 2025년까지 약 7개월마다 두 배가 됐다고 보고했습니다. 더 주목할 점은 2024~2025년 구간에서는 그 배가 주기가 약 4개월로 짧아졌다는 것입니다. 추세가 가속하고 있다는 신호입니다.

신뢰도 쪽은 단순한 산수가 임계선을 분명하게 보여줍니다. 단계당 신뢰도가 95%인 에이전트가 20단계짜리 작업을 끝까지 성공할 확률은 0.95의 20제곱, 즉 약 36%에 불과합니다. 사람이 매 단계를 검수해야 하니 인건비 절감이 없습니다. 같은 작업에서 신뢰도가 99%면 성공률은 약 82%, 99.9%면 약 98%로 올라갑니다. 신뢰도는 선형으로 오르는데, 사람을 빼도 되는 임계선을 넘는 순간 경제적 가치는 계단식으로 점프합니다. 이 점프가 빅테크가 베팅하는 “도약”의 정체입니다.

빅4와 순수 랩의 지출 동기는 다릅니다

같은 GPU를 사도 동기의 층위가 다릅니다. 마이크로소프트·구글·메타·아마존에게 GPU는 조 단위 본업을 지키는 상대적으로 싼 보험입니다. 도약을 놓치는 리스크에 비하면 캐펙스는 감당 가능한 보험료입니다. 반면 오픈AI·앤트로픽 같은 순수 AI 랩에게는 GPU가 곧 본업입니다. 도망갈 본업이 따로 없으니 지출은 보험이 아니라 생존입니다. 같은 숫자라도 의미가 다릅니다.

덧붙이면, 이 캐펙스의 60% 이상은 칩이 아니라 전력과 데이터센터 건설에 들어갑니다. “GPU 쇼핑”으로만 보이는 숫자가 실제로는 전력 인프라 베팅에 더 가깝다는 점도 거품 판단을 흐리게 만드는 요소입니다.

다음 세대 톨게이트: 의도 라우터

지출 논리만큼 중요한 것이 “왜 그 자리를 반드시 지켜야 하는가”입니다. 시대마다 길목을 쥔 톨게이트가 있었습니다. PC 시대의 윈도우, 인터넷 시대의 구글 검색, 모바일 시대의 앱스토어입니다. AI 에이전트 시대에는 사용자의 의도를 받아 적절한 서비스로 연결해 주는 에이전트, 즉 의도 라우터(intent router)가 그 자리를 차지할 가능성이 높습니다.

구체적으로 그려보면 이렇습니다. 사용자가 에이전트에게 “오늘 저녁 약속 잡고 예약해 줘”라고 말합니다. 어떤 식당을 후보로 올릴지, 어느 예약 플랫폼을 거칠지, 어느 배달 서비스를 부를지를 에이전트가 정합니다. 이 순간 식당과 플랫폼은 더 이상 사용자에게 직접 노출되지 않습니다. 에이전트의 후보 목록에 들지 못하면 존재하지 않는 것과 같습니다. 검색 결과 1페이지에 못 들면 트래픽이 사라지던 구조가, 에이전트의 추천 후보에 못 들면 거래가 사라지는 구조로 옮겨가는 것입니다. 길목을 쥔 쪽이 통행세를 정합니다.

다만 여기서 정직해야 할 부분이 있습니다. 에이전트가 톨게이트가 된다면, 인프라 사업자 역시 그 역학에서 완전히 자유롭지 않습니다. 그리고 “엔터프라이즈가 외부 에이전트에 종속되기 싫어할 것”이라는 명제는 아직 완결된 수요라기보다 형성 중인 흐름에 가깝습니다. 이 글은 그것을 단정하지 않습니다. 우리가 관찰하는 것은, 데이터 주권·규제 준수·소버린 AI 요구가 겹치면서 그 흐름이 점점 또렷해지고 있다는 신호입니다.

ThakiCloud 관점

이 구도가 ThakiCloud에 중요한 이유는 빅테크 동향 파악 때문이 아닙니다. 톨게이트 경쟁의 중간 레이어에 우리가 있기 때문입니다.

빅테크가 의도 라우터 레이어를 장악하려 경쟁할수록, 자신의 데이터와 모델을 외부 에이전트에 넘기고 싶지 않은 엔터프라이즈의 선택지가 중요해집니다. 그들에게 필요한 것은 온프렘 또는 프라이빗 환경에서 자체 에이전트 인프라를 돌릴 수 있는 실행 환경입니다. ThakiCloud가 제공하는 쿠버네티스 기반 AI/ML 워크로드 인프라, 그리고 Kueue를 통한 GPU 워크로드 스케줄링이 바로 그 자리에 있습니다. GPU 클라우드 레이어에서 MSP로, 다시 엔터프라이즈 AI 도입 파트너로 넘어가는 경로에서, 우리는 이 “톨게이트 내재화” 수요를 겨냥합니다.

태스크 호라이즌의 임계선 논리는 제품 전략에도 직접 닿습니다. 에이전트의 단계당 신뢰도가 임계선을 넘는 순간 경제적 가치가 계단식으로 뛴다면, 고객의 AI 워크로드를 얼마나 높은 신뢰도로 안정적으로 떠받치느냐는 단순한 운영 품질 지표가 아닙니다. 그것은 고객이 사람을 검수 루프에서 빼도 되는 임계선을 넘느냐 마느냐를 가르는 변수입니다. 인프라 안정성이 곧 고객 ROI의 비선형 레버라는 뜻입니다. 우리가 안정성·격리·스케줄링 품질에 집착하는 이유가 여기에 있습니다.

이 논리가 틀리는 경우

균형을 위해 반대 시나리오도 적어 둡니다. 비대칭 보험 논리가 무너지는 길은 분명히 있습니다.

첫째, 신뢰도 곡선이 임계선 앞에서 정체될 수 있습니다. 태스크 호라이즌이 길어져도 단계당 신뢰도가 99.9%대에서 더 오르지 않으면, 긴 자율 작업의 경제적 가치는 끝내 계단을 넘지 못합니다. 둘째, 증류와 오픈웨이트 모델이 충분히 좋아져서 “프런티어를 직접 소유할 필요”가 약해질 수 있습니다. 그러면 선두가 산 보험의 값어치가 떨어집니다. 셋째, 전력·부지·전력망 제약이 캐펙스를 실제 가동 능력으로 바꾸지 못하게 막을 수 있습니다. 돈을 써도 전기를 못 끌어오면 GPU는 멈춰 있습니다. 이 세 가지 중 하나라도 현실이 되면 “합리적 보험”은 “값비싼 오판”으로 바뀝니다.

요점은 어느 쪽이 맞다고 단정하는 게 아니라, 무엇을 지켜보면 답이 갈리는지를 아는 것입니다. 신뢰도가 임계선을 넘느냐, 오픈웨이트가 프런티어를 대체하느냐, 전력이 캐펙스를 따라오느냐. 이 세 지표가 향후 몇 분기의 관전 포인트입니다.

정리

빅테크의 GPU 과투자는 거품일 수도, 합리적 보험일 수도 있습니다. 그러나 이를 “비대칭 보상 구조에 대한 합리적 반응 + 다음 세대 톨게이트 선점 경쟁”으로 읽으면, 단순한 광기보다 훨씬 정교한 구조적 강제가 보입니다. 그리고 그 경쟁의 반대편에는, 톨게이트에 종속되기를 원치 않는 엔터프라이즈 수요가 형성되고 있습니다. ThakiCloud는 그 자리를 위해 만들어진 인프라입니다.

관련 슬라이드

본문 내용을 NotebookLM(blue_collage 스타일)으로 요약한 슬라이드입니다.

gpu-overinvestment-ai-agents-sovereign-ai 슬라이드 1

gpu-overinvestment-ai-agents-sovereign-ai 슬라이드 2

gpu-overinvestment-ai-agents-sovereign-ai 슬라이드 3

gpu-overinvestment-ai-agents-sovereign-ai 슬라이드 4

출처

참고