-->

한 창업자가 AI 스택을 통째로 중국 오픈모델로 갈아탔더니 비용이 87% 줄고 매출은 그대로라는 자랑이 화제였습니다. 추론용 두뇌를 Opus에서 Kimi 계열로 바꾸고, 작업마다 값싼 모델을 배정하는 방식이었죠. 숫자만 보면 분명 통쾌한 절감입니다. 다만 여기서 한 가지가 흐려집니다. 주권은 모델과 데이터, 인프라를 내 통제 아래 두는 것을 뜻하고, 온프렘은 그걸 남의 클라우드가 아니라 내 시설 안에서 돌리는 방식을 말합니다. 미국 API를 중국 API로 바꾼 건 요금을 낮췄을 뿐, 열쇠는 여전히 남이 쥐고 있습니다.

내 AI 스택 전부 중국산이요

원 뉴스: RT @DeRonin_: My entire AI stack is now Chinese 🇨🇳 · twitter

ThakiCloud 제품 적용 시사점

저희가 굳이 이 만화를 그린 이유는 ‘싸다’와 ‘내 것이다’가 자주 헷갈리기 때문입니다. 타키클라우드는 두 가지를 한 판에서 풉니다. 파시스가 작업별로 알맞은 모델에 일을 나눠 주는 라우팅을 온프렘 위에서 돌리고, 메티스가 그 모델을 직접 학습하고 추론까지 맡습니다. 트윗 속 절감 방식을 흉내 내되, 남의 API가 아니라 내 시설에서 돌린다는 점이 다릅니다. 비용은 내리고 열쇠는 내가 쥡니다. 그게 바꿔 낀 셋방이 아니라 진짜 내 스택입니다.

이 만화는 업계 뉴스를 바탕으로 자동 생성된 초안입니다.

참고