$7500억과 카드 1장, AI 업계의 두 개의 장부

오늘 AI 업계에는 두 개의 장부가 함께 돌아갑니다. 하나는 7500억 달러짜리 컴퓨트 계획을 IPO prospectus에 적는 장부입니다. 다른 하나는 1220억 파라미터 모델을 그래픽 카드 1장에 올리는 장부가 됩니다. 오늘 아침 AI 뉴스에서 이 두 숫자가 나란히 나옵니다. 우연처럼 보이지만 두 숫자가 같은 페이지에 있다는 사실 자체가 돈이 어디로 흐르는지를 보여주는 신호입니다. 두 장부는 한 산업의 두 얼굴이 됩니다. 한쪽은 능력을 만드는 데 돈을 쓰고 다른 쪽은 능력을 쓰는 데 드는 돈을 줄입니다. 두 장부를 함께 읽는 법은 어렵지 않습니다. 한쪽의 숫자는 자본시장을 보고 다른 쪽의 숫자는 운영실을 보면 됩니다.

글의 핵심 개념을 형상화했습니다.

스케일 쪽 장부, IPO prospectus에 등장한 7500억 달러

HuggingNews 보도에 따르면, Anthropic이 업데이트된 IPO prospectus에서 잠재적 컴퓨트 지출을 7500억 달러로 상향 조정했습니다. 기존 예상보다 1500억 달러가 추가될 수 있다는 계산도 함께 나옵니다. 이유는 공급입니다. 현재 파트너가 줄 수 있는 수준을 넘어서는 하드웨어와 클라우드 용량을 확보하려는 것입니다.

이 문장을 천천히 읽으면, 숫자보다 중요한 구절이 있습니다. 그 구절이 바로 “파트너가 현재 줄 수 있는 수준을 넘어서는”입니다. 돈을 써도 구할 물건이 시중에 없다는 문제입니다. 수요가 공급의 천장을 먼저 쳤습니다. Anthropic 입장에서 컴퓨트는 이제 조달 업무입니다.

과거에 컴퓨트 지출은 운영 예산 안의 숫자였습니다. 분기별 비용의 문제가었고, 카드로 몇 장을 더 사느냐의 계산이었습니다. 이제는 IPO prospectus에서 투자자에게 설명해야 할 숫자가 됐습니다. 지출 규모가 이 수준에 닿으면, 질문이 공급의 시간표로 넘어갑니다. 프론티어에서는 컴퓨트가 수요 문제보다 먼저 공급 문제가 됐다는 뜻입니다. 7500억 달러는 그 판단의 총액이고 1500억 달러는 그 총액이 다시 뻗칠 수 있는 폭으로 봐야 합니다.

스케일 장부는 결국 자본 장부가 됩니다. 주가, 투자, 용량 예약이 얽히는 곳입니다. IPO prospectus에 컴퓨트 지출이 숫자로 찍히는 순간, 그 장부는 투자자도 함께 보게 됩니다. 이 장부의 뉴스는 앞으로 더 자주, 더 큰 숫자로 나오겠습니다. 하지만 이 장부가 기업의 AI 예산을 직접 움직이지는 않습니다. 기업의 예산을 움직이는 장부는 다음 장에서 따로 살펴봅니다.

단가 쪽 장부, 카드 1장에 들어가는 1220억 파라미터

페이지의 반대쪽은 정확히 그 반대입니다. Ornith가 단일 NVIDIA DGX 카드로 구동되는 1220억 파라미터 오픈웨이트 대규모 언어모델을 출시했습니다. 여기서 방점은 효율에 찍혀 있습니다. 프론티어급 성능에 추론 효율성까지 더했다는 설명입니다.

2026년 기준으로, 이 숫자에서 소리를 낼 필요는 없습니다. 카드 1장에 그 숫자가 들어간다는 사실이 뉴스입니다. 몇 년 전만 해도 1000억 파라미터 단위의 모델은 클러스터로 측정하던 존재였습니다. 클러스터 단위로 살던 모델이 카드 단위로 살 수 있다는 것은, 모델을 돌리는 비용의 최소 단위 자체가 내려갔다는 뜻입니다.

오픈웨이트라는 말의 무게는 여기에서 기술적이지 않습니다. “내 하드웨어에서 돌릴 수 있다”는 뜻이기 때문입니다. 클라우드 API로만 받을 수 있는 모델과, 내 데이터센터에서 돌릴 수 있는 모델은 같은 품질이라도 비용 계산이 전혀 다릅니다. 카드 수명까지 내가 감당하는 모델이 옵니다. 두 종류가 같은 장표에 놓이기 시작합니다.

같은 방향의 신호가 이어집니다. DeepSeek이 V4.1 Flash를 구동하는 프로덕션 추론 엔진 DeepInfer를 오픈소스로 공개했습니다. 단일 클러스터에서 하루 155조 토큰을 처리하면서 입력 캐시 히트율 96%를 유지한다는 수치가 함께 나옵니다. 155조는 체감을 주기 어려운 숫자입니다. 대신 96%를 보시면 됩니다. 입력 캐시 히트율 96%는 같은 컨텍스트를 다시 보내도 거의 매번 재계산 비용을 내지 않는다는 뜻입니다. 에이전트 워크는 반복 컨텍스트가 많을 수밖에 없습니다. 시스템 프롬프트, 도구 설명, 과거 대화. 이 것들이 캐시에 걸리면 단가는 눈에 띄게 떨어지는 것입니다. 그리고 이 엔진이 프로덕션에서 실제로 돌던 코드입니다. 그게 공개된 것은 추론 최적화의 기준점이 공공재가 됐다는 뜻이기도 합니다. 남의 96%를 벤치마크로 삼을 수 있게 되었습니다.

Google은 오픈소스 백엔드 vLLM TorchTPU를 공개했습니다. 간단한 설정만으로 PyTorch 모델의 Google Cloud TPU 배포가 가능해졌습니다. TPU는 그동안 접근 장벽이 있던 하드웨어였습니다. 교차 하드웨어 백엔드가 생기면, 서빙 스택이 특정 카드에 묶이지 않는 셈입니다. 카드가 비싸면 다른 카드로, 클라우드가 비싸면 온프레미스로. 같은 코드가 여러 장부에서 돌 수 있는 것입니다.

MiniMax의 신규 에이전틱 어시스턴트 M3.1 Flash는 Vals 인덱스에서 5위를 기록했습니다. Ollama와 OpenRouter, Venice에서 이미 서비스 중이고 개발자에게 72시간 무료 체험 창이 주어지는 셈입니다. 72시간이라는 숫자가 상징적인 이유입니다. 모델을 시험해 볼 창구가 시간 단위가 되었습니다. 에이전트 특화 모델을 세 개 플랫폼에 동시에 올린다는 점도 놓치기 쉽습니다. 모델의 배포 자체가 경쟁이 됐다는 뜻입니다.

네 건은 겉이 다릅니다. 하지만 움직이는 것은 하나, 단가입니다. 캐시 히트율, 단일 카드 구동, 교차 하드웨어 백엔드, 짧은 무료 체험. 이 것들이 같은 변수를 만집니다. 모델 단가가 내려가면 그 위에 지어진 모든 애플리케이션의 비용 구조가 다시 바뀝니다. 에이전트는 특히 그렇습니다. 에이전트 한 번의 실행은 모델 호출 수십, 수백 번입니다. 단가 1퍼센트 차이가 에이전트에서는 수십 퍼센트 차이로 번집니다.

두 장부는 모순이 아니라, 생산과 집행의 차이입니다

스케일 쪽과 단가 쪽을 따로 읽으면 모순처럼 보입니다. 컴퓨트 지출을 7500억 달러로 끌어올리는 회사와 카드 1장에 들어가는 모델은 같은 페이지에 공존할 수 없다는 인식이 있습니다. 그러나 애초에 둘은 같은 장부가 아닙니다. 7500억 달러는 능력을 생산하는 장부이고 카드 1장은 능력을 집행하는 장부입니다.

생산 장부의 출시는 집행 장부로 흘러갑니다. 프론티어 랩이 컴퓨트에 돈을 쓰고 오픈웨이트 모델을 내놓습니다. 추론 엔진과 교차 플랫폼 백엔드가 그 모델을 돌리는 장벽을 낮춥니다. 그러면 집행 장부 안에서 기업이 돌릴 수 있는 워크로드의 가격표가 다시 찍힙니다. 그래서 두 숫자가 같은 페이지에 놓이는 것입니다.

이 흐름을 한 번 더 추론해 보면, 두 장부는 서로를 먹고 살게 하는 구조입니다. 생산 장부가 집행 장부의 재료를 만들고 집행 장부가 싸진 가격으로 생산 장부에 새 수요를 만들어냅니다. 단가가 내려가면 더 많은 워크로드가 모델 위에 지어지고 더 많은 워크로드는 다시 더 큰 컴퓨트를 정당화합니다. 7500억 달러와 카드 1장은 경쟁하는 두 장부가 아니라 같은 동전의 앞뒤입니다.

두 장부의 속도는 다릅니다. 생산 장부는 자본의 속도로, IPO와 다년 계약의 시간표로 돌아갑니다. 집행 장부는 릴리스의 속도로, 이번 주 뉴스가 다음 주에 갱신되는 시간표로 움직입니다. 장부의 속도가 다르면 뉴스의 반감기도 달라집니다. 7500억 달러는 수년간 유효한 뉴스고 카드 1장 모델은 다음 주 새 모델로 갱신되는 뉴스입니다. 기업은 이 두 속도를 동시에 따라야 합니다. 그중에서 매일 손이 가야 할 쪽은 집행 장부입니다. 생산 장부는 뉴스 피드로 소비하면 되지만 집행 장부는 예산표로 소비해야 합니다. 이 때문에 같은 주에 두 종류의 뉴스가 섞여 나옵니다.

그리고 이 구조에는 비례하는 불평등이 있습니다. 생산 장부는 자본이 많은 쪽만 들 수 있습니다. 반면 집행 장부는 자본의 크기와 무관합니다. 판단이 좋은 쪽이 더 잘 쓸 수 있는 장부입니다. 내 워크로드 중 무엇이 1220억 파라미터의 96% 캐시 히트율 위에 올려도 충분한지, 무엇이 꼭 프론티어급 능력을 필요로 하는지를 아는 쪽이 이 장부에서 이득을 봅니다.

기업에 남는 질문은, 내 일을 어느 장부에 올릴 것인가

스케일 장부는 구독할 필요가 없습니다. 하지만 집행 장부는 매일 풀어야 할 문제를 줍니다. 문제는 세 갈래입니다.

첫째, 모델 고르기입니다. 이번 주 뉴스만 보더라도, 1220억 파라미터 오픈웨이트, 에이전틱 어시스턴트, 프론티어급 추론 모델이 모두 같은 시장에서 팔립니다. 품질과 비용이 동시에 모델 선택에 걸립니다. 모든 작업을 같은 모델에 올리는 것은, 모든 물건을 같은 크기의 캐리어로 싸는 것과 같습니다.

둘째, 하드웨어 고르기입니다. GPU를 몇 장, 어디서, 어떤 계약으로 확보하느냐는 이제 AI 예산의 절반입니다. TPU 백엔드가 생기고 단일 카드 모델이 생기면, 이 선택지는 넓어집니다. 넓어지면 고르는 비용도 커집니다.

셋째, 책임지기입니다. 내가 고른 모델과 하드웨어 위에서 에이전트가 뭘 하는지, 누가 허락했는지, 실행이 어디까지 갔는지를 설명할 수 있어야 합니다. 단가가 내려가면 실행 빈도는 올라갑니다. 빈도가 오르면 기록할 것도 늘어납니다.

세 갈래 질문을 따로 풀면 비용이 세 번 듭니다. 여기가 ThakiCloud의 Agent-Native Cloud Paxis가 들어오는 자리입니다. Paxis는 v1.1 GA를 마친 정식 제품입니다. 두 장부라는 질문에 Paxis가 주는 답은 “일을 따져서 정한다”입니다.

Paxis의 비용 라우터 CostRouter는 작업별로 모델을 고릅니다. 작업의 성격과 비용에 따라 모델이 달라지는 라우팅이 사람의 손으로 넘어오기 전에, 플랫폼 기능으로 들어옵니다. 이번 주에 나온 카드 1장 모델 같은 오픈웨이트 모델은 온프레미스 K8s(ai-platform)로 자사 안으로 데려와 돌릴 수 있습니다. 주권 배포가 데이터가 밖으로 나가지 않는 조건을 채웁니다. GPU가 몇 장이고 어떤 카드든, 스케줄링은 플랫폼이 봅니다.

에이전트를 실제로 돌릴 때 비용은 시작일 뿐입니다. Paxis는 Skills, Tools, Policies, Audit Logs를 일급 리소스로 다룹니다. 자율도 L0~L3 거버넌스, 정책 게이트와 감사 로그, 격리 샌드박스 실행이 에이전트 행동의 경계를 짓고 MCP 커넥터와 스킬 마켓이 외부 연계를 담당합니다. 셋째 갈래, 책임지는 일까지 플랫폼이 채웁니다. 오늘 뉴스가 드러낸 업계의 통증, 오픈모델의 온프레미스 서빙, GPU 스케줄링, 에이전트의 안전한 실행, 주권, 비용. 이 명단 하나하나가 Paxis가 이미 답을 내놓은 질문입니다.

AI 업계에는 두 개의 장부가 있는 셈입니다. 스케일 쪽과 단가 쪽, 둘 다 진짜이고 둘 다 커집니다. 기업에는 그 사실이 판단을 플랫폼으로 넘길 이유를 줍니다. “일을 어디에 올릴 것인가”라는 질문은 이제 상시 운영 질문입니다. 장부는 두 개인데, 답은 그럴 필요가 없습니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성한 것입니다.

• HuggingNews, Anthropic Lifts Potential Compute Spend to $750B in Updated IPO Draft
• HuggingNews, Ornith Releases 122B Open Weight Model for Single NVIDIA DGX Card
• HuggingNews, DeepSeek Open-Sources Production Engine Powering V4.1 Flash
• HuggingNews, Google Open-Sources TorchTPU to Run PyTorch AI on Cloud TPUs
• HuggingNews, MiniMax Launches M3.1 Flash as No 5 Model on Vals Index