유리까지 보는 AI, 정작 기업이 묻는 건 ‘방금 네가 뭘 했지?

화면 밖으로 나온 AI, 오답의 무게가 달라졌습니다

오늘 아침 뉴스를 훑다 보면 AI가 두 가지 방향으로 동시에 커지고 있다는 게 보입니다. 하나는 더 잘 보는 쪽입니다. 앤트그룹은 유리와 반사면처럼 기존 비전 모델이 놓치던 표면까지 인식하는 차세대 비전 AI를 공개했고, 11억 파라미터로 70억 파라미터급 모델을 앞선다고 주장합니다. 다른 하나는 더 많이 움직이는 쪽입니다. 정부와 민관이 20조원 규모의 K-피지컬 AI 투자를 띄웠고, 울산은 산업 AI 허브 협의체를 출범했으며, 로보틱스 파운데이션 모델 스타트업 리얼월드는 AWS 출신 글로벌 전략 리더를 영입하며 상업화 단계로 넘어갑니다.

감각이 넓어지고 손이 늘어난다는 이야기입니다. 그런데 AI가 화면 안에만 있을 때와 공장 라인 위에 있을 때, 오답의 무게는 전혀 다릅니다. 챗봇이 틀린 문장을 쓰면 지우면 그만입니다. 로봇 팔이 잘못 움직이거나 제조 공정 에이전트가 엉뚱한 밸브를 열면, 그건 되돌릴 수 없는 물리적 사건이 됩니다. 오늘 뉴스가 은근히 가리키는 질문은 여기에 있습니다. AI가 더 잘 보고 더 많이 행동하게 될수록, 기업이 실제로 던지는 물음은 “얼마나 똑똑하냐”가 아니라 “방금 네가 정확히 뭘 했는지 증명해봐”로 이동합니다.

오늘 다이제스트에는 두 종류의 ‘기록’이 있었습니다

같은 다이제스트 안에 성격이 다른 기록 두 개가 놓여 있습니다. 앤트그룹의 비전 모델이 다루는 것은 지각의 기록입니다. 세상을 얼마나 정밀하게 보고 공간을 어떻게 이해하는지에 관한 이야기입니다. 반면 IT조선이 다룬 ‘AI 운영’ 기획의 행동 기록은 결이 다릅니다. 에이전트가 어떤 도구를 호출했고 어떤 권한을 행사했으며 그 결과 무엇을 바꿨는지, 그 실행 흐름 전체를 남기는 문제입니다.

앞의 기록이 없으면 AI는 멍청해집니다. 뒤의 기록이 없으면 AI는 도입되지 못합니다. 이 차이가 중요합니다. 성능은 벤치마크로 증명되지만, 신뢰는 로그로 증명되기 때문입니다. 기사가 짚었듯 해외에서는 데이터독 같은 관측 플랫폼이 에이전트의 도구 호출과 응답을 하나의 실행 흐름으로 추적하는 기능을 강화하고 있고, AgentOps나 Arize, LangSmith 같은 도구들이 트레이스와 평가, 거버넌스 가드레일을 한데 묶는 방향으로 움직입니다. 관측 가능성 시장이 기존 APM에서 에이전트 특화 도구로 빠르게 재편되고 있다는 신호입니다.

모델은 공짜로 수렴하는데, 남는 질문은 ‘운영’입니다

여기에 또 다른 오늘 뉴스가 겹칩니다. 오픈AI와 앤트로픽이 최상위 모델의 토큰을 무료로 풀면서 초기 고객 선점 경쟁에 들어갔다는 소식입니다. 과거 클라우드 기업이 무료 크레딧으로 스타트업을 확보했던 전략을 프론티어 AI 기업들이 그대로 재현하는 셈입니다. 경쟁의 초점이 최고 성능 구축에서 생태계 락인으로 넘어갔다는 방증이기도 합니다.

모델 성능이 가격이던 시대가 저물고 최고 모델조차 공짜로 뿌려진다면, 기업이 붙잡을 수 있는 차별점은 모델 자체가 아니라 그 위에서 돌아가는 운영 계층으로 내려옵니다. 어떤 모델을 쓰느냐보다, 그 모델이 만든 에이전트가 무엇을 할 수 있고 무엇을 하면 안 되는지를 어떻게 통제하고 기록하느냐가 남는 질문이 됩니다. 무료 토큰이 매력적일수록 특정 벤더에 프롬프트와 에이전트 하네스를 맞춰버렸을 때의 전환 비용도 함께 커집니다. 성능이 평준화되는 국면에서 진짜 자산은 모델이 아니라 운영의 규율이라는 이야기입니다.

인프라는 깔리고 있습니다, 승부는 그 위에서 납니다

토대가 되는 하드웨어 쪽 뉴스도 같은 방향을 가리킵니다. 오늘 나온 산업 분석은 AI 주도권의 축이 ‘GPU 독점’에서 ‘인프라 수요 확산’으로 옮겨가고 있다고 진단합니다. KT는 통신 본업에 AI 성장을 더하며 1GW급 데이터센터 확장에 나서고, AI 서버 대장주 슈퍼마이크로는 70억 달러를 조달해 엣지부터 초대형 데이터센터까지 공급망을 넓힙니다. 연산과 전력, 서버는 빠르게 깔리고 있다는 뜻입니다.

문제는 토대가 흔해질수록 승부처가 그 위로 올라간다는 데 있습니다. 데이터센터는 누구나 지을 수 있고 GPU는 결국 같은 칩입니다. 남는 차별점은 그 연산 위에서 에이전트를 어떻게 통제하고 무엇을 기록하느냐로 좁혀집니다. 오늘 네이버클라우드가 유럽 AI와 손잡고 제조 특화 시장을 공략한다는 소식이나, 슈퍼마이크로의 조달 규모가 커진다는 소식이 반가운 만큼, 그 위에서 돌아갈 운영 계층을 지금부터 설계하지 않으면 인프라 투자는 그저 남의 모델을 더 싸게 돌려주는 창구로 끝날 수 있습니다.

도입 저변이 넓어질수록 감사 요구도 함께 넓어집니다

국내 기업들의 도입 소식도 오늘 여럿 눈에 띕니다. LG씨엔에스는 금융과 피지컬 AI 사업을 본격화하고, 크래프톤은 CJ올리브영과 ‘AI 네이티브’ 해커톤을 공동 개최하며 게임과 유통이라는 서로 다른 산업이 AI 개발 문화를 나눕니다. 대교CNS는 네트워크·보안 기업 한드림넷을 인수하며 AI와 보안을 묶은 IT 포트폴리오로 확장합니다.

도입이 특정 부서의 실험을 넘어 산업 전반으로 퍼지는 국면입니다. 그런데 도입 저변이 넓어질수록, 그 AI가 무엇을 했는지 설명해야 하는 상황도 함께 늘어납니다. 게임사와 유통사가 함께 만든 에이전트가 고객 데이터를 다룰 때, 보안 기업을 품은 IT 회사가 자동화를 확대할 때, 결국 남는 질문은 같습니다. 이 시스템이 내린 판단의 경로를 사후에 재구성할 수 있는가입니다. 도입의 속도가 빠를수록 이 준비의 부재는 더 크게 드러납니다.

규제가 이 흐름을 강제로 앞당깁니다

취향의 문제였다면 기업들은 감사 로그를 뒤로 미뤘을 겁니다. 그런데 규제가 이걸 앞당기고 있습니다. 국내에서는 2026년 1월 시행된 AI 기본법이 고위험 AI 시스템과 생성형 AI에 특정 의무를 부과합니다. 해외에서는 EU AI Act와 NIST AI RMF가 고위험 시스템에 로그 보관과 감사 가능성을 요구하는 방향으로 움직입니다.

특히 금융과 의료, 공공처럼 규제가 촘촘한 산업에서 에이전트 자동화를 넓히는 기업일수록, 도구 호출 이력과 권한 행사 내역을 남기지 못하면 내부 통제도 대외 설명 책임도 감당하기 어려워집니다. 오늘 다이제스트에서 하나금융융합기술원이 기업여신과 상담을 지원하는 금융 특화 AI 모델을 공개한 것도 이 맥락 위에 있습니다. 금융 도메인에 AI를 깊게 넣을수록, 그 AI가 내린 판단의 경로를 사후에 재구성할 수 있어야 한다는 요구가 따라붙기 때문입니다. 관측 데이터를 마스킹하고 암호화하며 보관 기간을 관리하는 역량이, 국내 클라우드와 SaaS 사업자에게는 새로운 수요처가 될 전망입니다.

피지컬 AI일수록, 증거는 선택이 아니라 전제입니다

여기서 다시 피지컬 AI로 돌아옵니다. 정부의 피지컬 AI 예산은 로봇 단품이 아니라 데이터에서 월드모델, 로봇 파운데이션 모델, 공장 적용으로 이어지는 밸류체인 전체를 겨냥합니다. 예산의 절반 이상이 실증과 확산 인프라에 배정된 것은, 피지컬 AI가 소프트웨어만으로는 검증되지 않고 실제 장비와 로봇, 물류가 동작하는 환경을 필요로 한다는 판단을 담고 있습니다.

물리 세계에서 움직이는 AI는 실수를 취소할 수 없습니다. 그래서 화면 속 챗봇에게는 편의였던 행동 기록이, 공장 속 에이전트에게는 전제 조건이 됩니다. 무엇을 감지했고 어떤 정책 아래 어떤 행동을 골랐으며 그 권한이 정당했는지를 남기지 못하면, 사고가 났을 때 책임을 가릴 방법도 재발을 막을 방법도 사라집니다. 국가 제조데이터 라이브러리가 현대차와 삼성, LG의 현장 데이터를 외산 모델에 넘기지 않겠다는 데이터 주권 전략이라면, 그 데이터로 학습한 에이전트가 현장에서 한 행동을 국내 인프라 안에서 기록하고 감사하는 것은 그 주권의 나머지 절반입니다.

ThakiCloud가 보는 지점: 감사 가능성을 기본값으로

바로 이 대목이 ThakiCloud가 Paxis를 설계한 이유와 맞닿습니다. Paxis는 Agent-Native Cloud를 표방하는 정식 제품이며, Skills와 Tools, Policies, Audit Logs를 일급 리소스로 다룹니다. 에이전트에게 무엇을 시킬지(Skills)와 어떤 도구를 쥐여줄지(Tools)를 정의하는 것에서 그치지 않고, 무엇을 하면 안 되는지(Policies)와 무엇을 했는지(Audit Logs)를 아키텍처의 같은 층위에 올려둔다는 뜻입니다. 오늘 IT조선 기사가 요구한 ‘의사결정 경로와 도구 호출 순서, 권한 행사 내역’의 실행 흐름 추적을, 사후에 덧붙이는 대시보드가 아니라 플랫폼의 기본 동작으로 내장하는 방향입니다.

여기에 L0부터 L3까지의 자율도 거버넌스가 얹힙니다. 같은 에이전트라도 어디까지 스스로 결정하고 어디서 사람의 승인을 받아야 하는지를 단계로 나누고, 그 경계마다 정책 게이트가 걸리며 통과 여부가 감사 로그로 남습니다. 외부 도구는 격리된 샌드박스 안에서 실행되고, MCP 커넥터로 연결되는 지점마다 기록이 쌓입니다. 모델은 작업별로 골라 쓰는 CostRouter가 맡으니, 무료 토큰 경쟁이 격화되든 특정 벤더가 값을 올리든 운영 계층은 흔들리지 않습니다. 그리고 이 모든 것이 소버린 온프렘 K8s 위에서 돌아가기 때문에, 제조 현장의 민감한 데이터와 그 데이터로 움직인 에이전트의 행동 기록이 회사 경계를 벗어나지 않습니다.

정리하면 오늘 다이제스트가 드러낸 기업의 통증은 네 갈래입니다. 규제와 내부 통제에 답할 감사, 데이터가 회사 밖으로 새지 않게 할 주권, 물리 세계에서 사고를 부르지 않을 안전한 실행, 그리고 모델값이 출렁여도 흔들리지 않을 비용 구조입니다. 이 네 가지는 각각 다른 뉴스에서 튀어나왔지만, 실제 도입 현장에서는 하나의 운영 계층에서 동시에 요구됩니다. Paxis가 Audit Logs와 소버린 K8s, 정책 게이트와 CostRouter를 같은 플랫폼 위에 올려둔 이유가 여기에 있습니다. 마침 세계 최대 머신러닝 학회인 ICML 2026이 서울에서 열리며 국내 연구 생태계에 모멘텀이 실리는 지금, 연구의 성과를 현장에 실제로 태우는 마지막 한 뼘은 결국 이 운영의 성숙도가 채운다고 봅니다.

오늘 뉴스는 AI에게 더 좋은 눈과 더 많은 손을 주는 이야기로 가득했습니다. 그 흐름은 분명히 옳습니다. 다만 그 눈과 손을 실제 현장에 들일 수 있느냐를 가르는 것은, 성능이 한 뼘 더 좋아지는 순간이 아니라 “방금 네가 뭘 했는지 보여줘”라는 질문에 즉시 답할 수 있느냐입니다. 감각과 행동이 커지는 만큼 증거의 무게도 커집니다. 그 증거를 기본값으로 갖춘 운영 계층을 먼저 준비한 기업이, 피지컬 AI 시대의 도입 경쟁에서 앞설 겁니다.