랙 한 대에 2100만 달러, AI의 청구서가 도착하자 병목은 전력으로 내려갔다
계산서 한 장을 상상해 보겠습니다. 품목은 서버 랙 한 대, 금액은 2100만 달러. 우리 돈으로 약 316억 원입니다. 오늘 글로벌이코노믹이 전한 엔비디아 차세대 루빈 울트라 랙의 예상 단가입니다. 불과 한 세대 전 블랙웰 랙이 300만에서 400만 달러였으니, 다섯 배에서 일곱 배 뛴 셈입니다. 이 청구서에서 가장 큰 항목은 연산 칩이 아니라 메모리입니다. 랙 하나에 실리는 HBM4e만 8만 2944기가바이트, 기가바이트당 18.49달러로 계산하면 메모리 단품값만 153만 달러를 넘습니다. 이전 세대 서버 랙 전체 가격에 육박하는 금액이 이제는 부품 하나의 값입니다. 오늘 다이제스트를 관통하는 이야기는 여기서 시작합니다. AI 경쟁의 단위가 성능 지표에서 돈과 전력으로 넘어갔다는 것입니다.
돈의 단위가 바뀌었다
숫자의 규모부터 낯설어졌습니다. SK하이닉스는 나스닥 상장을 위한 미국예탁증서 공모가를 주당 149달러로 확정했습니다. 총 265억 달러, 약 40조 원 규모로, 2014년 알리바바의 250억 달러를 넘어 외국 기업의 미국 상장 가운데 역대 최대입니다. 시가총액이 1조 달러를 돌파한 회사가 달러를 직접 끌어와 용인과 청주 팹의 극자외선 장비, 해외 첨단 패키징에 붓겠다고 합니다. 마이크론은 2035년까지 미국에만 2500억 달러, 약 376조 원을 투입한다고 계획을 또 키웠습니다. 메타는 올해 자본지출 가이던스로만 1150억에서 1350억 달러를 제시했습니다.
이 돈이 어디로 흘러가는지 보면 방향이 뚜렷합니다. 전부 메모리 증설, 데이터센터 건설, 반도체 확보로 향합니다. 뱅크오브아메리카와 모건스탠리 같은 투자은행은 이 단가 급등을 한국 메모리 기업 가치의 근거이자 동시에 빅테크 설비투자를 위축시킬 하방 위험으로 함께 봅니다. 값이 오른다는 건 파는 쪽에는 기회지만, 그 값을 치르고 서비스를 돌려야 하는 쪽에는 부담입니다. 랙 값의 절반이 메모리로 채워지는 구조가 굳어지면, GPU 클라우드 사업자는 차세대 랙 도입 시점을 언제로 잡느냐만으로도 마진의 방향이 갈립니다.
경쟁의 전선이 칩 하나에 머물지 않는다는 점도 눈에 띕니다. 삼성전자는 HBM과 로직, 실리콘포토닉스를 한 패키지로 묶는 2.xD 이종집적을 개발 중이라고 밝혔고, AI PC용 가속기 가이아로 온디바이스 추론 시장에도 발을 들였습니다. 가이아는 프로세싱 인 메모리를 결합해 데이터 이동을 줄이고 전력 효율을 끌어올리는 방향을 잡았습니다. 연산을 빠르게 만드는 싸움이 곧 전력을 아끼는 싸움과 같아졌다는 뜻입니다. 이 흐름은 GPU 클라우드 사업자에게도 앞으로 엔비디아 한 곳이 아니라 NPU와 프로세싱 인 메모리까지 아우르는 멀티벤더 하드웨어를 준비해야 한다는 숙제를 남깁니다.
병목은 GPU에서 전력으로 내려갔다
더 흥미로운 신호는 병목이 이동한 자리입니다. 조세일보가 전한 이야기는 상징적입니다. 코인을 캐던 기업들이 AI 인프라 회사로 변신하고 있는데, 그들이 가진 진짜 자산은 채굴기가 아니라 전력이었습니다. 코인셰어스 보고서에 따르면 상장 채굴 기업 매출에서 AI와 고성능컴퓨팅이 차지하는 비중이 지금 약 30퍼센트에서 연말 최대 70퍼센트까지 오를 전망이고, 지난 1년간 맺은 관련 계약만 700억 달러를 넘습니다. 테라울프는 앤트로픽과 20년 장기 임대를 맺어 2028년 초까지 401메가와트로 확장하고, IREN은 오클라호마 부지를 더해 전력 파이프라인을 4.5기가와트까지 늘렸습니다. 값싼 전력 계약과 변전 설비를 먼저 쥔 쪽이 승자가 된 것입니다.
한국도 다르지 않습니다. 중앙일보는 노무라 전망을 인용해 전 세계 AI 데이터센터 투자가 2025년 723조 원에서 2030년 5241조 원으로 연평균 48퍼센트씩 불어난다고 전했습니다. 정부는 지난달 29일 3대 메가프로젝트를 발표하며 1단계로 8.4기가와트 규모 데이터센터에 550조 원을 넣고, 2035년까지 총 18.4기가와트, 누적 1000조 원을 넘기겠다고 했습니다. SK는 AWS와 손잡고 2029년 5기가와트를 열어 2035년 15기가와트로 키우고, KT는 5년간 5조 원으로 전국 25곳에 실수요 기반 시설을 짓겠다고 선언했습니다. SK텔레콤이 5기가와트급 데이터센터로 승부수를 던진다는 소식도 같은 맥락에 놓입니다. 공통된 병목은 하나로 모입니다. 전력, 냉각, 부지입니다. 한전 계통 연계 지연과 변전소 인허가가 확장의 최대 제약으로 꼽히는 현실에서, 전력을 선점한 사업자가 구조적 우위를 갖는다는 미국의 교훈은 국내에도 그대로 옮겨옵니다.
규모 경쟁이 대기업 컨소시엄으로 재편되는 국면에서, 작은 사업자에게 남는 길이 아예 없는 것은 아닙니다. LG유플러스는 파주에 200메가와트를 공급하는 시설을 짓고, LG씨엔에스는 컨테이너 하나에 GPU 576장을 담는 모듈형 소형 데이터센터를 준비합니다. KT의 에지 전략처럼 산업 현장 가까이 설비를 붙여 지연을 줄이는 접근도 있습니다. 하이퍼스케일 부지를 두고 정면으로 붙기 어려운 사업자라면, 모듈형과 에지, 전력 계약 다변화 같은 틈새에서 밀도를 높이는 편이 현실적인 선택입니다.
그런데 그 돈은 성과로 돌아오고 있는가
여기서 반대 방향의 질문을 던져야 정직한 그림이 나옵니다. 이 사상 최대의 자본은 정말 성과로 회수되고 있을까요. 오늘 뉴스는 오히려 반대 신호를 보냅니다. 네이버는 2분기에 매출 3조 3562억 원, 영업이익 5701억 원으로 역대 2분기 최대를 예고했는데, 주가는 6월 1일 신고가 30만 4000원에서 한 달여 만에 7월 9일 18만 4400원까지 내려앉았습니다. 카카오는 지피티 인 카카오 누적 이용자가 1100만 명에 이르렀지만 수익화 증거가 부족하다는 이유로 증권사들이 일제히 목표주가를 낮췄습니다. 사상 최대 실적을 내고도 웃지 못하는 이유는 단순합니다. 시장은 이제 투자가 아니라 회수를 묻습니다.
빅테크의 반응은 더 직설적입니다. 메타는 오픈소스 노선을 접고 첫 유료 모델 뮤즈 스파크 1.1을 내놓았습니다. 출력 100만 토큰당 4.25달러로, 오픈AI와 앤트로픽 최고급 모델의 약 25퍼센트 수준입니다. 저커버그는 데이터센터와 GPU를 외부에 빌려주는 컴퓨팅 임대 사업까지 저울질하며 사내에 메타 컴퓨트라는 별도 조직을 꾸렸습니다. 4월에 코어위브와 최대 210억 달러 규모 컴퓨팅 임대 계약을 맺은 데 이어, 이번에는 스스로 코어위브 같은 컴퓨팅 공급자가 되겠다는 것입니다. 수천억 달러를 부어놓고 이제 그것으로 돈을 벌겠다는 선언입니다. 한쪽에서는 딥시크가 출력 100만 토큰당 0.87달러로 오픈AI보다 34배 싼 가격을 앞세워 개발자 트래픽의 상당 부분을 흡수하고 있습니다. 오픈라우터 통계에서 중국 오픈소스 모델의 점유율이 한때 46퍼센트까지 치솟았다는 수치는 이 흐름이 취향이 아니라 원가 문제임을 보여줍니다. 승부의 축이 더 좋은 모델을 누가 만드느냐에서 누가 실제로 돈을 버느냐로 넘어갔다는 평가가 나오는 배경입니다.
네이버의 사례는 이 시차를 숫자로 드러냅니다. 엔비디아와 손잡은 AI 팩토리는 55메가와트에서 2028년 200메가와트를 거쳐 최종 1기가와트까지 키우고 장기적으로 연매출 20조 원을 노리는 사업이지만, 정작 GPU 투자에 따른 감가상각비가 단기 영업이익률을 눌렀습니다. 인프라를 먼저 짓고 회수는 나중이라는 구조가 대형 플랫폼에서도 예외가 아니라는 뜻입니다. 투자자가 사용량이 아니라 계약과 매출이라는 증거를 요구하는 이유가 여기에 있습니다.
비싼 컴퓨트를 증명 가능한 일로 바꾸는 층
정리하면 이렇습니다. 자본은 반도체와 전력으로 쏟아지고, 그 위에서 서비스를 돌리는 기업은 회수를 증명하라는 압박을 받습니다. 그렇다면 진짜 가치가 만들어지는 자리는 하드웨어 아래가 아니라 그 위, 비싼 컴퓨트 한 사이클을 낭비 없이 성과로 바꾸는 소프트웨어 층입니다. ThakiCloud가 Paxis를 에이전트 네이티브 클라우드로 설계한 이유가 여기에 맞닿아 있습니다.
작업마다 모델을 골라 쓰는 CostRouter는 딥시크와 메타의 저가 API가 열어놓은 선택지를 그대로 무기로 씁니다. 이메일 분류나 문서 요약처럼 토큰에 민감한 워크로드는 값싼 모델로 흘리고, 정교한 추론이 필요한 구간에만 비싼 모델을 배치하면 같은 결과를 더 낮은 원가로 냅니다. 랙 한 대의 값이 폭발하는 시대에 원가를 지키는 길은 더 싼 하드웨어가 아니라, 매 호출을 적정 모델로 라우팅하는 소프트웨어 규율입니다.
정책 게이트와 감사 로그는 네이버와 카카오가 겪는 증명의 압박에 대한 답이기도 합니다. Paxis는 스킬과 툴, 정책, 감사 로그를 일급 리소스로 다루고, 에이전트의 자율도를 L0에서 L3까지 단계로 관리합니다. 에이전트가 무슨 권한으로 어떤 일을 했는지 기록으로 남으면, 사용량이 아니라 실제로 처리한 일을 근거로 성과를 말할 수 있습니다. 어떤 작업은 사람이 승인하고 어떤 작업은 완전히 위임할지를 정책으로 나누면, 회수를 묻는 질문 앞에서 숫자 대신 근거를 내밀 수 있습니다. 알리페이가 위임 인증과 거래 추적으로 3억 건의 에이전트 결제를 쌓아 신뢰 계층을 만든 것도 같은 문법입니다.
주권의 문제도 그대로 겹칩니다. 한 기자수첩은 소버린 AI를 외치는 자리에서 정작 가장 선명하게 남은 단어가 엔비디아였다고 꼬집었습니다. 정부는 초과세수 5조 원으로 엔비디아 베라루빈 GPU 1만 개를 확보하고 2030년까지 국산 반도체 비중을 절반으로 늘리겠다고 하지만, 데이터와 모델까지가 주권인지 컴퓨팅과 반도체까지 포함하는지 기준은 아직 흐릿합니다. 이 공백은 온프렘 쿠버네티스 위에서 데이터가 나가지 않는 소버린 스택을 실제로 굴려 보인 사업자에게 포지셔닝의 창이 됩니다. 대형 사업자가 소버린을 표방하면서도 엔비디아 생태계에 깊이 편입되는 사이, 컴퓨팅 국산화와 데이터 주권을 실제 레퍼런스로 쌓는 쪽이 기준이 확정되기 전에 앞서갈 수 있습니다.
보안은 이 신뢰의 마지막 고리입니다. 과기정통부와 KISA가 이번 주 펴낸 AI 보안 레드티밍 가이드는 프롬프트 인젝션과 에이전트 하이재킹을 포함한 8대 위협을 규정하고 위험을 5단계로 나눴습니다. 에이전트가 외부 문서나 웹페이지에 숨은 악성 지시에 휘둘리는 하이재킹은, 모든 실행을 격리 샌드박스 안에 가두는 구조로 정면 대응할 수 있습니다. 금융과 공공 조달에서 레드티밍 이력이 요건으로 굳어질 국면에서, 격리 수준을 정량으로 입증하는 아키텍처는 규제 대응인 동시에 그 자체가 조달 경쟁력이 됩니다.
청구서 이야기로 돌아가 보겠습니다. 랙 한 대에 2100만 달러가 찍히는 시대에, 가장 비싼 낭비는 그 랙 위에서 엉뚱한 모델에 엉뚱한 일을 시키고도 무엇을 했는지 설명하지 못하는 것입니다. 자본과 전력은 이미 격전지가 되었습니다. 다음 격전지는 그 위에서 매 사이클을 증명 가능한 일로 바꾸는 층이고, ThakiCloud는 바로 그 자리를 겨냥하고 있습니다.