요새가 메워졌다

요새는 더 이상 추론 엔진이 아닙니다. 에이전트를 돌리는 팀에겐 이번 변화가 비용 계산에 가장 직접적으로 닿습니다. 이번 주 가장 구체적인 사례는 DeepSeek의 인하우스 추론 엔진, DeepInfer입니다. DeepSeek가 인하우스 추론 엔진 DeepInfer를 공개했을 때, 이 블로그가 다룬 이야기는 모델 특화 커널을 앞세운 독점 스택이었습니다. 처음 읽힌 결말은 요새가 형성된다는 것이었습니다. 특정 모델에 맞춰 조율된 커널과 최적화가 외부 프레임워크로 넘어가지 않는다는 가정, 그 위에 쌓는 프로프라이어티 서빙 스택. 공개된 엔진이 DeepSeek의 모델을 돌리던 바로 그 엔진이었기 때문에, 모델과 엔진이 함께 특화될수록 남이 재현하기 어렵다는 이야기가 성립했습니다. 이번 주는 그 결말이 달라집니다. 오픈소스 추론 프레임워크 SGLang과 vLLM이 DeepSeek의 신규 공개 커널과 최적화를 통합했습니다. 두 스택은 이제 DeepInfer의 성능과 맞먹거나 이를 넘어서는 완전한 프로덕션 서빙 스택을 갖췄습니다. “프로덕션”이라는 단어에 포인트를 둘 필요가 있습니다. 이 표현은 운영 환경에 세울 수 있는 수준의 완성도를 가리킵니다. 온프레미스에서 오픈 모델을 돌리는 조직에겐 이 변화가 직접적입니다. 서빙 스택은 그전까지 성패를 가르는 변수였습니다. 이제 서빙 스택에 옵션이 생겼습니다.

글의 핵심 개념을 형상화했습니다.

따라잡음이 뜻하는 것

두 프레임워크가 신규 공개된 커널을 통합해 DeepInfer의 성능에 닿았다는 사실은, 프로프라이어티 스택의 차별화 창이 짧다는 뜻입니다. 추론 최적화는 공개되는 순간 오픈 프레임워크의 통합 대상이 됩니다. SGLang과 vLLM은 각자 자체 최적화까지 얹을 줄 아는 스택입니다. 그래서 “맞먹거나 넘어서는”이라는 결과가 가능합니다. 모델 공급사의 인하우스 엔진은 이제 출시 속도 경쟁입니다. 오늘 공개된 최적화는 내일 오픈 스택의 서빙 성능이 될 것입니다.

DeepSeek에겐 역설의 흐름입니다. 공개된 커널과 최적화가 오픈 스택의 성능을 끌어올립니다. 모델의 인기가 클수록 커널을 통합한 오픈 스택도 함께 자랍니다.

두 프레임워크가 통합한 것은 신규 공개된 커널과 최적화입니다. 이 흐름은 프라이빗 서빙 스택의 성능 검증 주기를 짧게 가져가야 함을 분명히 합니다. 어제의 벤치마크가 오늘의 기준선이 됩니다. 스택 비교는 분기별 이벤트로 남지 않습니다. 릴리스 단위 반복 작업이 됩니다. 온프레미스에서 오픈 모델을 돌리는 조직에겐 선택의 축도 바뀝니다. 서빙 스택 고르는 기준이 성능에서 운영으로 이동합니다. 스택을 고를 때는 GPU 스케줄링 정책이 내 워크로스에 맞는지를 먼저 봅니다. 같은 도구 체인으로 검증할 수 있는지, 업그레이드를 중단 없이 할 수 있는지도 함께 봅니다. 엔진의 차별화가 사라지면, 엔진 공급사에 남는 것은 가격과 운영 부담입니다. 추론의 비용 경쟁이 시작되는 지점입니다.

나머지 감소 움직임

엔진을 깎아내는 움직임은 고립되어 있지 않습니다. 같은 주, 같은 방향의 움직임이 세 개 더 있습니다. 세 움직임의 공통점은 비용입니다.

OpenAI의 움직임은 추론에 대한 다이얼입니다. OpenAI가 Codex와 Work 도구 업데이트를 내놓았습니다. prompt presets 기능을 통해 개발자가 대화 도중 추론 수준을 조정하면, 프롬프트 컨텍스트를 지우지 않아도 됩니다. reasoning cache도 함께 업데이트됐습니다. 이전 방식은 대화별로 추론 수준을 처음부터 정하는 것이었습니다. 지금은 한 대화의 흐름 안에서 요청이 요구하는 만큼만 추론을 넣을 수 있습니다. 에이전트 워크플로에서 이 차이가 큽니다. 한 워크플로가 수많은 추론 요청을 만들어냅니다. 수준이 고정되어 있으면 사소한 단계가 어려운 단계의 연산 자원을 함께 태웁니다. prompt presets와 reasoning cache, 대화 도중 조정은 한 세트입니다. 수준이 바뀌어도 컨텍스트가 사라지지 않으므로, 처음부터 다시 시작하는 비용이 없습니다. 한 요청에 얼마짜리 추론을 넣을지가 대화별, 요청별 조절 대상이 되는 순간, 비용 제어는 요청 단위 정책의 문제가 됩니다. 어떤 작업에 강한 추론을 들일지, 어떤 작업에 기본 수준으로 갈지는 이제 워크플로 설계의 질문입니다.

가격의 감소는 더 직접적입니다. OpenAI가 Replit의 1억 달러 규모 AI 계약을 따냈습니다. Replit은 경쟁사 Anthropic의 기존 고객이었습니다. OpenAI는 대폭 가격 인하로 계약을 따냈습니다. Replit은 AI 지출의 대부분을 OpenAI로 전환한 것으로 전해집니다. 코딩 에이전트 시장의 맨 앞자리를 가격으로 뺏은 셈입니다. 두 프런티어 랩이 할인으로 경쟁합니다. 고객은 지출의 대부분을 옮겨 답했습니다. 1억 달러는 개발자 개인 계정의 수준을 벗어나는 금액입니다. 모델 위에 코딩 서비스를 만들어 파는 플랫폼의 지출입니다. 규모보다 구조를 봐야 합니다. Replit에겐 이 계약이 분기마다 다시 계산 가능한 선택입니다. 토큰 단가가 서비스 자체의 마진을 정하기 때문입니다. 에이전트 워크플로 비용의 본체는 모델 실행, 즉 토큰입니다. 공급사가 할인으로 경쟁하는 환경에서는, 실행 비용은 내 통제 밖 변수가 됩니다. 내일 다른 공급사의 가격이 내려가면, 오늘 만든 비용 가정표가 무효가 됩니다. 가격 정책이 변동한다는 것은, 자동화 서비스의 마진 관리에 직접적인 변수가 하나 더 생긴다는 뜻입니다.

감소 중 가장 놀라운 것은 아키텍처입니다. Anthropic이 기업에 AI 시스템에서 불필요한 서브에이전트를 제거하고 단일 에이전트 루프를 채택하도록 권고했습니다. 단일 에이전트 구성의 우위를 확인한 뒤 내린 권고로 알려져 있습니다. 권고의 근거가 된 구체적 우위의 내용은 이번 보도에는 담기지 않았습니다. 그래도 방향 자체는 분명합니다. 얼마 전까지 서브에이전트 수는 설계 변수였습니다. 멀티 에이전트 오케스트레이션은 정답처럼 다뤄졌습니다. 이제 프런티어 랩 본사가 “줄여라”고 조언합니다. “불필요한”이라는 단어가 기준입니다. 기여를 못하는 서브에이전트가 제거 대상이 됩니다. 워크플로 관점에서 서브에이전트는 추가된 승인 포인트이자 추가된 비용 포인트입니다. 줄이는 것은 비용과 복잡성입니다. 권고의 방향은 비용 감소와 같은 축입니다. 서브에이전트가 하나 늘 때마다, 토큰을 태우는 루프가 하나 더 생깁니다. 에이전트가 줄면 승인 지점도 줄어듭니다. 남은 승인 지점의 무게는 커집니다. 에이전트 수가 깎을 수 있는 변수가 되면, 설계 질문은 “각 작업은 어떤 수준에서 실행되는가”로 바뀝니다. 어떤 자율도로 어떤 경계 안에서 실행할지가 중요해집니다. 세 움직임이 가리키는 방향은 같습니다. 비용이 지출되는 엔진과 추론과 아키텍처에서, 하나씩 줄을 긋는 한 주입니다.

하나의 증가

감소와 다른 방향의 움직임은 공공 쪽에서 일어납니다. 미 해군이 Applied Intuition와 해양 자율 데이터 엔진 확대 계약을 체결했습니다. Applied Intuition의 운영 데이터 수집과 모델 학습 시스템이 해군 함정에 통합됩니다. 목표는 미국 선박의 위협 탐지 능력 개선입니다. 함정마다 시스템이 들어갈수록 데이터 루프가 커집니다. 탐지 능력은 그 루프의 출력값입니다. 시스템이 함정에 통합된다는 것은, 데이터와 모델이 함대 안에서 순환한다는 뜻입니다. 폐쇄망에서, 데이터주권 안에서 돌아가는 것이 전제인 워크로드입니다. 모델 공급을 어느 클라우드에 맡길지, 데이터가 어디를 지나갈지를 논쟁의 대상으로 삼을 수 없는 환경입니다. 국방 워크로드는 주권 요구의 선행 지표였습니다. 이제 해군이 요구하는 것은 운영 데이터를 탐지 능력으로 바꾸는 데이터 엔진입니다. 계약은 규모를 키우는 계약입니다. 해당 시스템은 함대 전체로 확대됩니다. 함대가 클수록 폐쇄망 서빙 문제는 시급해집니다. 함대는 폐쇄망이므로, 함대 안에서 배우고 돌아가는 데이터 엔진은 처음부터 소버린 배포의 설계 문제입니다.

같은 시기, 공급사의 투명성을 둘러싼 일도 있었습니다. 미국 행정부 인사가 Anthropic을 가리켜, 정부 공식 웹사이트에 영향을 미친 AI 안전 실패 관련 정보를 숨겼다고 주장했습니다. 주장이 사실인지 여부는 별개의 문제입니다. 여기서 일어난 일은 질문의 방향이 바뀐 것입니다. “공공 인프라에 닿는 AI를 누가 감시하는가”라는 질문이 공급사 쪽으로 던져졌습니다. 공공 웹사이트라는 맥락에서, 사고 투명성은 공급사 재량의 영역을 벗어납니다. 사고가 났을 때 공개 여부를 결정한 주체가 누구인가, 라는 질문이 계약의 문턱으로 들어옵니다. 한 업계, 두 방향. 오픈 쪽은 추론을 상품화합니다. 주권 쪽은 실행 요구를 강화합니다. 상품화가 진행될수록 실행 장소와 기록에 대한 질문은 커집니다. 감소와 증가가 동시에 일어나면, 기업이 쥐어야 할 것은 실행 장소와 수준과 기록 분량의 판단입니다.

엔진이 상품화된 뒤 남은 계층

추론 스택이 수렴하면, 모델 호스트의 가치는 떨어집니다. 실행 중재자의 가치는 오르는 것입니다. 중재자가 답해야 할 질문은 네 가지입니다. 각 작업을 어떤 모델로 어떤 추론 수준으로 돌릴 것인가, 폐쇄망에서 돌릴 것인가 외부 클라우드에서 돌릴 것인가, 어떤 정책 아래 어떤 기록을 남길 것인가, 이 네 가지입니다. 이 네 가지가 이번 주 뉴스를 관통하는 질문입니다.

Paxis는 ThakiCloud의 Agent-Native Cloud입니다. v1.1 정식 제품으로 출시됐습니다. 일급 리소스는 Skills, Tools, Policies, Audit Logs입니다. 이번 주 뉴스로 읽으면, 각 항목이 하나의 역량에 대응합니다. Paxis는 이 네 가지 질문에 하나의 운영 계층으로 답합니다.

작업별 모델 선택은 CostRouter의 몫입니다. 스택 간 가격 격차가 좁혀지고 공급사가 할인으로 경쟁하면, 작업 단위 모델과 추론 수준 선택이 바로 마진으로 번역됩니다. 추론 수준이 대화 도중 조절되는 환경에서, 라우팅 결정은 대화 시작의 일회성 선택으로 머무르지 않습니다. 작업 단위의 반복 결정이 됩니다. “누가 감시하는가”라는 질문이 공급사 쪽으로 던져지는 환경에서, 기업이 내놓을 답은 실행 기록입니다. 격리 샌드박스 실행과 정책 게이트, 감사 로그가 그 답을 시스템으로 만듭니다. 감사 로그는 이제 컴플라이언스 옵션이 아니라, 고객이 먼저 묻는 요구 사항입니다. 자율도 판단이 작업별로 이루어지면, 거버넌스는 L0~L3 단위의 정책 항목이 됩니다. 조직은 작업마다 수준을 할당합니다. 서브에이전트를 줄이되, 어느 단계에는 승인을 두는 설계는 바로 이 정책 항목 위에서 세워집니다. 소버린·온프렘 K8s 배포 옵션은 미 해군 해양 워크로드에서 본 폐쇄망 요구에 답합니다. 해군 함정뿐 아니라 기업의 데이터센터에서도, 같은 요구가 같은 모양으로 생깁니다. MCP 커넥터와 스킬 마켓은 엔진 교체 시대를 위한 장치입니다. 아래 서빙 스택이 바뀌어도, 워크플로가 쌓아온 스킬과 도구는 다시 만들 필요가 없습니다. 추론 스택이 바뀌어도, 그리고 모델이 바뀌어도, 워크플로가 붙잡아야 할 것은 판단과 기록입니다.

이번 주 뉴스는 플랫폼의 메뉴를 미리 읽게 합니다. 비용, 수준, 장소, 기록. 플랫폼의 가치는 가시화된 판단에 있습니다. 어떤 작업이 어떤 수준으로, 어떤 정책 아래 실행됐는지를 기록하는 것 자체가 제품이 되는 지점입니다.

엔진은 더 이상 차별화가 아닙니다. 남는 것은 판단 계층, 그리고 그 판단이 실행되는 장소입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

• HuggingNews, SGLang and vLLM Match DeepSeek’s DeepInfer Engine With Full Production Serving Stacks
• HuggingNews, US Official Accuses Anthropic of Hiding AI Safety Incidents Affecting Government Websites
• HuggingNews, OpenAI Adds Prompt Presets to Codex CLI and Updates Reasoning Cache
• HuggingNews, OpenAI Wins $100M Replit AI Contract From Anthropic With Steep Price Cuts
• HuggingNews, Anthropic Advises Companies to Cut AI Subagents for Single-Agent Architectures
• HuggingNews, US Navy Contracts Applied Intuition to Scale Maritime Autonomy Data Engine