V4-프로가 V4-프로로 남지 못한 24시간
외부 모델 API를 그대로 붙여 쓰는 팀이라면, 이번 24시간은 비용 기사로 읽어서는 안 됩니다. 계약 기사입니다. 토큰 단가는 내려왔는데, 실제로 움직인 것은 같은 이름 뒤에 놓이는 모델 자체였습니다.
출시 발표, 리다이렉트 계획, 그리고 그 계획의 번복이 이어졌습니다. 하루 동안 같은 엔드포인트의 내용을 결정하는 자리는 전부 모델사였고, 고객에게 주어진 자리는 통보를 받는 자리뿐이었습니다.
글의 핵심 개념을 형상화했습니다.
리다이렉트, 그리고 번복
9월 11일, 딥시크는 V4-프로의 대체로 V4.1-플래시를 내놓았습니다. API 가격은 입력 토큰 100만 개당 0.30달러, 출력 100만 개당 1.20달러이며 오프피크 시간에는 이 가격의 절반이 적용됩니다. 출시와 함께 발표된 계획이 더 컸습니다. 9월 14일 04:00 UTC부터 모든 V4-프로 API 요청을 V4.1-플래시로 옮기고 V4.1-프로가 나올 때까지 그 요청에는 플래시 요금을 부과한다는 것이었습니다.
요청의 이름은 V4-프로인데 실행과 과금은 V4.1-플래시로 넘어가는 구조입니다. V4.1-프로가 언제 출시될지는 계획에 잡혀 있지 않았습니다. 프로 이름을 붙인 요청이 플래시로 실행되고 다시 프로급으로 바뀌는 시점은 공급사 스케줄에 맡겨지는 셈입니다.
그 계획은 수 시간 만에 뒤집혔습니다. 딥시크는 9월 14일 이후에도 V4-프로 API 접근을 계속 제공한다고 밝혔고 과금은 기존과 동일하게 유지된다고 전했습니다. 번복 사유로 이용자 수요가 언급됐습니다. 발표부터 번복까지 하루가 채 걸리지 않았습니다. 그 짧은 창 안에서 V4-프로로 주문하는 방식은 그대로인데, 뒤에 서는 모델과 그에 붙는 과금 규칙이 한 번 바뀌고 다시 원점으로 돌아왔습니다.
이 순서에서 주목해야 하는 지점은, 공급사가 움직인 것이 모델이 아니라 엔드포인트의 가리킴이라는 것입니다. V4-프로라는 이름은 그대로 두고 그 뒤에 올 모델을 플래시로 바꿨다가 수요를 이유로 다시 원상태로 돌렸습니다. 고객은 이름으로 주문하고 이름으로 지불해 왔습니다. 그런데 이름의 내용이 공급사의 운영 판단으로 바뀌고 되돌아오면, 고객이 계약한 것의 정체가 무엇이었는지를 묻게 됩니다. 이번 24시간은 물러난 사례였습니다. 그대로 넘어가는 주가 뒤를 잇는다면, 고객에게 남는 일은 로그의 정체를 확인하는 것뿐입니다.
번복 사유로 ‘이용자 수요’가 꼽혔다는 점도 읽을 데가 있습니다. 수요란 여기에서 성능 요구이기도 하고 이름에 기대하는 품질에 대한 요구이기도 합니다. 공급사가 수 시간 안에 계획을 되돌린 것은, 모델 이름이 고객 쪽에서 이미 자산으로 다뤄지고 있다는 신호로 읽힙니다. 고객이 V4-프로라고 부르는 데에는 이유가 있습니다. 그 이유는 이름이 가리키는 품질 기대입니다. 이름의 가리킴이 흔들리면 흔들리는 쪽은 고객입니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
단가가 시간과 만나기 시작한 주
플래시의 가격표에는 이전보다 새 변수가 하나 더 들었습니다. 오프피크 시간에는 절반이라는 조항입니다. 같은 요청이 시간대에 따라 단가가 두 배로 달라집니다. 토큰 단가는 이제 시간의 함수가 됐습니다.
이 조항은 배치형 에이전트 작업의 성격을 바꿉니다. 야간과 비성수 시간대에 돌리는 작업은 구조적으로 싼 값으로 실행됩니다. 작업 스케줄을 비용 설계의 한 축으로 잡는 팀과, 스케줄을 운영 편의 문제로만 보는 팀의 단가 차이는 플래시 가격표 위에서 그대로 벌어집니다. 에이전트 작업은 한 건당 수많은 모델 호출을 반복합니다. 호출 한 번의 단가가 시간대에 따라 달라지면, 하루 중 언제 돌리느냐가 전체 비용의 변수로 올라옵니다. 공급사가 시간대를 가격에 붙이면서 고객의 작업 스케줄도 비용 설계의 대상이 됐습니다. 프로급보다 싼 플래시급이 기본 경로로 올라오는 환경에서는, 어느 작업이 어느 등급의 모델로 갈지가 상시 운영 결정이 됩니다.
오프피크 할인과 등급 차이가 함께 붙은 가격표 앞에서는, 비용 최적화의 대상이 모델 선택뿐이 아닙니다. 언제 돌리느냐, 어느 등급으로 돌리느냐, 둘 다 같은 가격표 위에서 읽는 설정값입니다.
75%가 주가를 움직인 이유
같은 날 한국 메모리 업계에는 다른 소식이 닿았습니다. SK하이닉스와 삼성전자가 9월 11일 가장 큰 폭으로 하락한 종목에 이름을 올렸습니다. 배경으로 지목된 것은 V4.1-플래시가 AI 캐시에 쓰는 HBM, 즉 고대역폭 메모리 요구량을 75% 줄였다는 사실입니다.
75%는 소프트웨어의 결정이 하드웨어의 수요를 직접 누르는 장면입니다. 추론 서빙에서 메모리는 병목 자원입니다. 세션을 몇 개나 동시에 앉힐 수 있는지, 컨텍스트를 얼마나 길게 유지할 수 있는지 정하는 쪽이 바로 메모리입니다. 모델사가 캐시 한 단당 메모리 요구를 75% 줄인다는 것은, 같은 장비로 더 많은 세션을 돌리거나 같은 세션 수에 더 적은 장비를 쓰겠다는 뜻입니다.
주가는 그 의미를 하루 안에 가격으로 바꿨습니다. AI 추론이 메모리 수요 곡선을 끌어올릴 것이라는 전망을 재료로 한 랠리에서, 모델 하나의 설계 변경이 수요 곡선 자체를 내리겠다고 선언한 셈으로 봐야 합니다. 글로벌 메모리 공급의 핵심 두 곳이 같은 장에서 같은 이유로 움직인 것은, 메모리 슈퍼사이클의 토론장이 데이터센터가 아니라 모델사의 설계 단계로 이동하고 있다는 뜻입니다.
서빙을 직접 운영하는 쪽에도 이 75%는 같은 문장입니다. 세션당 메모리 요구가 줄면 서빙 밀도가 오르고 밀도가 오르면 세션당 나눌 수 있는 고정비가 줄어듭니다. 토큰 단가 하락이 서빙 구조 자체의 변화로 오기 시작했다는 뜻입니다.
기업의 장비 계획에도 같은 문장이 적용됩니다. GPU와 메모리를 오늘 모델의 집약도로 산정해 사면, 다음 설계 변경이 계획 오류로 돌아옵니다. 하드웨어 투자의 위험 요인에 ‘모델사의 다음 설계’가 들어온 주입니다. 국내에서 GPU 클러스터와 메모리 기반 AI 인프라 투자를 논의하는 자리에서도, 이 75%는 새 전제 조건이 됩니다. 장비 수명을 계산하는 표의 한 칸에 ‘모델사의 설계 변경 주기’라는 변수가 새로 생겼습니다. 메모리 가격의 방향과 모델 설계의 방향이 같은 표로 묶여 읽히는 시점입니다.
이름 뒤에 모델이 바뀐다는 것
“V4-프로”라고 부르는 엔드포인트가 원래 약속한 것은 안정적인 스펙이었습니다. 같은 이름으로 보낸 요청에는 같은 품질과 같은 과금이 돌아온다는 약속이었습니다. 이번 24시간은 그 약속의 유효기간을 보여줬습니다. 공급사는 이름의 목표 모델을 바꿀 수도 있고 바꾸지 않기로 결정할 수도 있습니다.
원래 계획에는 함이 하나 더 들어 있었습니다. 이름은 V4-프로인데 과금은 V4.1-플래시로 바뀐다는 구성이었습니다. 전환이 실제로 일어났다면, 사용자는 품질과 단가 둘 다 다른 모델을 V4-프로라는 라벨로 소비하고 있었을 것입니다. 로그에는 V4-프로가 적힙니다. 실제로 돌은 것은 플래시였습니다. 품질 회귀를 찾느라 A/B 비교를 돌리면, 이름이 같은 두 결과가 다른 모델의 결과일 수 있습니다. 비교의 전제가 조용히 무너지는 구조입니다.
과금 내역도 같은 문제를 가집니다. 청구서에는 V4-프로라고 나오고 실제로 소비된 것은 플래시였으면 비용 대장을 이름 기준으로 정합하는 순간 숫자가 안 맞습니다.
품질 베이스라인도 이름에 묶여 있습니다. 지난달 V4-프로로 통과한 eval 결과가, 이름은 그대로인데 뒤에 다른 모델이 서면 재검증이 필요합니다. 품질 게이트의 기준이 공급사의 리다이렉트에 흔들리는 동안, 품질을 지키는 쪽은 자기 레코드부터 손봐야 합니다.
감사 기록의 정체를 묻는 문제로 이어집니다. 목표가 바뀌는 순간, 이름으로만 기록된 로그는 실행의 사실을 증빙하지 못합니다. 사고가 났을 때 어떤 모델이 어떤 요청에 붙었는지를 되짚어야 하는데, 기록이 공급사의 발표를 전사한 것뿐이면 되짚을 대상이 없습니다.
책임의 문제이기도 합니다. 에이전트가 V4-프로라는 이름의 요청으로 잘못된 행동을 하면, 그 행동을 설명해야 할 것은 그 이름이 가리키던 모델입니다. 기록이 이름을 전사한 것뿐이면, 설명의 대상이 무엇이었는지를 먼저 확인해야 합니다. 사고 대응의 첫 단계가 로그의 정체를 재확인하는 일이 되는 주입니다.
번복이 수요를 이유로 들었다는 점은 또 하나의 신호입니다. 공급사 입장에서 엔드포인트는 재고 관리의 대상입니다. 수요가 쌓이면 남겨 두고 비용이 필요하면 싸운 모델로 돌립니다. API가 계약이 아니라 재고라는 사실을, 이번에는 공급사가 스스로 시연했습니다.
슬롯을 자기 손에 두는 팀
이번 24시간이 기업에 남기는 조건은 네 가지로 정리됩니다.
모델 이름에 강하게 결합해서는 안 됩니다. V4-프로라는 엔드포인트를 업무에 그대로 붙이는 대신, 어떤 품질 등급의 모델을 어느 작업에 쓸지는 자기 계층에서 설정으로 다뤄야 합니다. 사고의 단위는 작업의 품질 요건입니다. 공급사가 슬롯을 움직여도, 업무의 품질 기준과 비용 기준은 자기 쪽에 남습니다.
폴백과 라우팅은 프로급과 플래시급 사이를 오가는 움직임이 운영의 결정이 되도록 상시로 준비돼 있어야 합니다. 오프피크에 절반이 되는 플래시 가격은 배치 작업의 기본 경로를 플래시로 두는 구성에 실질적인 이유를 줍니다. 등급이 바뀌는 주에 자기 라우팅을 가진 팀과 그렇지 않은 팀의 대응 비용은 크게 갈립니다.
감사 로그는 실행된 모델을 기록해야 합니다. 이름으로만 돌려 정체를 확인하지 않는 로그는, 목표가 바뀌는 순간 추측이 됩니다. 모델 변경은 정책 게이트를 지나야 할 사건입니다. 이번처럼 공급사가 이름의 내용을 바꾸고 되돌린 주, 어떤 호출이 어느 모델에 닿았는지를 알아야 비용과 품질의 대장을 맞출 수 있습니다. 모델이 바뀔 수 있다는 전제로 운영 체계를 갖추는 일, 이번 주를 겪은 팀의 공통 과제로 남습니다.
설계의 변수는 계획에 넣어야 합니다. HBM 75% 절감이 보여준 것은, 모델사가 메모리 집약도를 설계로 바꿀 수 있다는 점입니다. 장비 계획과 단위 비용 전망을 오늘 모델의 값에 고정해 두면, 다음 설계 변경이 전망을 깨뜨립니다.
그 조건을 일급 자원으로 갖는 Paxis
ThakiCloud의 Paxis은 Agent-Native Cloud의 정식 제품 v1.1로 운영 중입니다. CostRouter는 작업별로 모델을 골라 실행에 붙입니다. 프로급으로 갈 작업, 플래시급으로 갈 작업, 오프피크에 돌릴 배치를 구분하는 자리가 그것입니다. 공급사의 슬롯 변동은 라우팅의 입력값이 되고 업무의 품질과 비용 기준은 Paxis 쪽에 남습니다. Skills, Tools, Policies, Audit Logs가 일급 자원입니다. 어떤 모델이 실제로 실행됐는지를 기록하고 모델 변경을 정책 게이트로 통제합니다. 자율도는 L0에서 L3까지 단계로 구분되며 실행은 격리된 샌드박스 안에서 도는 구조입니다. MCP 커넥터와 스킬 마켓으로 도구를 붙이고 온프렘과 소버린 K8s(ai-platform)으로 실행 환경을 내부로 가져올 수도 있습니다.
모델이 싸지는 것은 이제 소식의 반쪽입니다. 이름 뒤에 무엇이 오르는지가 먼저 질문이 되는 주, 실행 레이어가 그 질문에 답하는 자리입니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.