AI가 같은 날 두 방향으로 움직인 날
같은 날의 헤드라인 두 줄을 나란히 놓고 보십시오. 한 쪽에는 ‘OpenAI, 10조 파라미터 사전학습 완료’가 있고 다른 한 쪽에는 ‘에이전트 런타임 전체가 책상 위 작은 컴퓨터 하나로 실행된다’가 있습니다. 따로 읽으면 각각이 AI 업계의 단골 이야기입니다. 함께 읽으면 하나의 질문을 가리킵니다. 에이전트를 어디에서 돌리는 것이 가장 좋은가, 그리고 그것을 누가 결정하는가. 이 글은 그 질문에 답해야 하는 엔지니어를 위한 것입니다. 오늘의 뉴스가 전망이 아니라 실제로 도착한 선택지라는 것을, 두 방향의 사실을 대조하면서 보여드립니다.
글의 핵심 개념을 형상화했습니다.
위로: 10조, 자체 칩, 30조 달러 시장
OpenAI가 Bel이라는 모델의 사전학습을 마쳤다. 규모는 10조 파라미터이고 Doug 프로젝트의 뒤를 잇는 모델이다. 예정된 Astra와 GPT-6 시스템의 기반층이 된다고 보도는 전했고 Anthropic의 컴퓨트 우위가 끝났다는 해석도 함께 붙었다.
동시에 OpenAI가 자체 만든 첫 추론 칩이 등장했다. 이름은 Jalapeño이며 엔비디아 GB300 대비 전력 효율이 1.9배라는 평가를 받았다. OpenAI는 올해 말까지 자체 컴퓨트 인프라에 설치하기 시작할 계획이다.
모델을 키우고 칩을 만들고 전력 효율까지 잡는 것을 같은 사분기에 해치는 것은 기술 뉴스가 아니다. 추론의 경제학이 GPU 대수에서 토큰당 전력으로 이동하고 있다는 선언에 가깝다. 자신의 토큰 단가를 낮출 수 있는 회사는 가격을 낮출 수 있는 여유가 생기고, 그 여유가 시장이 얼마나 빨리 넓어지는지를 좌우한다.
이 방향의 끝은 비용 곡선이다. 사전학습이 10조 파라미터까지 올라가면, 학습보다 추론이 더 오래, 더 많이 필요하다. 그래서 추론 단가와 전력 효율은 모델 성능과 별개의 경쟁축이 된다. 같은 출력을 더 적은 전력으로 뽑는 칩을 자기 인프라에 넣는 순간, 그 회사의 토큰 단가는 경쟁사의 비용 구조에 직접 닿는다. 하드웨어를 스스로 만들고 전력을 스스로 아끼는 회사는 추론 시장을 가격으로 여는 사업자격을 갖게 된다.
자금은 바로 그 뒤를 따른다. Anthropic은 30조 달러 규모의 AI 시장 전망을 내세웠다. SpaceX의 추정치마저 상회하는 수치다. 2분기 매출은 116억 달러로 두 배 이상 뛰었고, 회사는 2조 달러 기업가치로 최대 1,000억 달러의 자금조달을 검토 중이라는 보도가 이어졌다. 컴퓨트 군비경쟁의 모양이 바뀐 것이다. 누가 더 빨리 학습하는가의 논쟁이, 누가 돈과 전력을 더 확보하는가의 논쟁으로 옮겨갔다. 위로 자라는 쪽이 이렇게 돈의 문제로까지 번진 날, 아래로 줄어드는 쪽이 같은 날 도착했다는 것이 오늘 뉴스의 진짜 뉴스다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
아래로: 에이전트 전체가 박스 하나에 들어간 날
같은 날, Perplexity는 반대 방향으로 움직이는 제품을 출시했습니다. 이름은 Portable Computer, 로컬 에이전트 스택입니다. 여기서 볼 만한 점은 로컬이라는 단어가 아닙니다. 로컬에서 모델을 돌리는 것은 이미 오래전의 일입니다. 중요한 사실은 런타임 전체가 온디바이스에 실행된다는 것입니다.
오케스트레이터 LLM, 서브에이전트 LLM, 그리고 에이전트 하네스. 이 셋이 전부 엔비디아 DGX Spark 위에서 동작합니다. 벤치마크 점수는 73%로 보도됐습니다.
지금까지 에이전트 런타임은 클라우드가 제공하는 것으로 전제돼 왔습니다. 모델은 클라우드에 있고 오케스트레이터도 클라우드에 있고 하위 에이전트도 클라우드에 있었습니다. 하네스, 즉 에이전트 작업의 질을 좌우하는 부분은 클라우드 안의 보이지 않는 자산이었습니다. 보이지 않았기 때문에 아무도 그것이 어디에 있는지를 묻지 않았습니다.
Portable Computer는 그 보이지 않는 자산을 꺼내서 데스크에 올려놓은 행위로 인 셈입니다. 동시에 하나의 선언이기도 합니다. 에이전트의 실행 평면은 반드시 클라우드일 필요가 없다는 선언입니다. 클라우드의 내부처럼 취급되던 부분이 사실은 분리 가능하고 휴대 가능하다는 것, 그것이 보이면 자연스럽게 다음 질문이 따라옵니다. 런타임이 휴대된다면, 우리는 그것을 어디에 두어야 하는가.
73%라는 벤치 점수는 따로 읽을 가치가 있다. 에이전트 워크로드에서 온디바이스 런타임이 70%대 성능을 유지한다는 것은 모든 작업을 로컬로 옮기라는 뜻이 아닙니다. 오히려 반대입니다. 어떤 작업은 클라우드에서, 어떤 작업은 로컬에서, 둘을 섞어 돌리는 것이 가능해졌다는 뜻입니다. 이전에는 런타임이 클라우드에 묶여 있어서 선택지가 하나였습니다. 이제 선택지가 둘이 됐고 둘을 오가는 비용이 낮아졌습니다. 런타임이 분리 가능해졌을 때 생기는 것은 이점도 제약도 아닙니다. 자유입니다. 그리고 자유는 아키텍처 질문을 만들어냅니다. 그 질문은 모델을 파는 회사가 아니라, 에이전트를 실제로 운영하는 조직이 답해야 합니다.
왜 지금 “작게 돌리기”가 성립하나
이 방향이 성립한 데에는 전제조건이 같은 날 도착했기 때문입니다. 전제는 한 대의 머리에 들어갈 만큼 작은, 그러나 유능한 모델입니다.
알리바바는 120억 파라미터 멀티모달 MoE 모델 Qwen3.8-Flash-Next를 공개했습니다. 차세대 Qwen4 아키텍처의 첫 단편으로 평가받고 있고 오픈웨이트 다운로드는 오늘 8월 26일부터 시작됩니다. 자금은 같은 방향으로 흐릅니다. 잭 마는 알리바바 주식 6억 홍콩달러어치를 매입했습니다. 보도는 이를 2019년 이후 첫 신규 발행과 AI 투자 확장으로 묶었고 의장이자 CEO도 지분 확대에 참여했다고 전했습니다.
여기서 MoE라는 구조가 변수로 들어옵니다. Qwen3.8-Flash-Next가 120억 파라미터를 품으면서도 하나의 머리에 실행 가능한 이유 중 하나는, MoE가 토큰마다 전체 파라미터를 움직이지 않기 때문이라는 뜻입니다. 가중치는 크게 가져가고 실제 계산은 필요한 부분만 돌리는 구조입니다. 이것이 가능해지면 모델 크기와 실행 비용이 더 이상 1:1로 묶이지 않습니다. 120억 파라미터짜리 멀티모달 모델이 데스크박스에서 도는 것과, 그것을 오늘부터 자유롭게 받아 올릴 수 있는 오픈웨이트인 것은 별개의 사실처럼 보이지만, 실제로는 같은 이야기의 앞뒤입니다. 크기는 키워지고 계산은 얇아지며 배포는 열립니다. 셋이 같은 주에 일어났습니다.
이를 합치면 이런 뜻입니다. 한 대의 머리에 들어가는 유능한 모델이 더 이상 예외가 아니라 주간 단위의 발행물이 되고 있다는 것. 로컬에서 돌릴 수 있는 모델이 도착하면, 어디서 돌릴 것인가라는 질문의 가치가 함께 오릅니다. 이전까지 로컬 런타임은 데모에 가까웠습니다. 유능한 모델을 돌리지 못했기 때문에 실용이 되지 않았습니다. 그런데 유능한 모델이 주간 단위로 도착하기 시작하면, 책상 위의 런타임은 실제로 쓸 수 있는 것이 됩니다. Portable Computer의 73% 벤치는 바로 그 첫 신호입니다. 작게 돌리기가 장난감이 아니라 선택지가 되었다는 신호입니다.
실행 위치는 이제 아키텍처 결정
그렇다면 기업은 무엇을 해야 합니까. 오늘의 뉴스를 클라우드 대 로컬, 둘 중 하나를 고르라는 문제로 읽으면 그릇됩니다. 두 방향은 동시에 실재합니다. 프론티어 모델은 10조 파라미터까지 자라고 에이전트 런타임은 책상 위 박스 하나로 줄어듭니다. 이것은 서로를 이기려는 대립 구도가 아닙니다. 같은 산업의 두 가지 사실입니다.
그래서 물어야 할 질문은 어느 쪽이 이기느냐가 아니라, 어떤 작업이 어디에서 돌았을 때 가장 좋은가입니다. 가장 큰 모델이 필요한 작업은 큰 클라우드에서 도는 것이 맞습니다. 빠른 응답이 필요한 작업, 건물을 나가지 못하는 데이터를 다루는 작업은 로컬 박스로 이동합니다. 그 사이에는 폐쇄망과 주권 환경이 각자의 답을 갖고 있습니다. 중요한 것은 이 선택을 습관 층이 아니라 아키텍처 층에서 해야 한다는 것입니다. 작업마다, 데이터마다, 규제마다 답이 달라지기 때문입니다.
이 결정에는 운영 부담이 따라옵니다. 클라우드 하나만 돌리던 팀이 로컬 박스까지 돌리면 실행 평면이 두 개가 됩니다. 두 평면에는 각각 다른 장애 패턴과 비용 곡선, 감사 요구사항이 붙습니다. 같은 에이전트도 어디에서 돌리느냐에 따라 실패하는 방식이 달라집니다. 그래서 실행 위치를 정한다는 것은, 결국 모델을 고르는 것 이상의 일입니다. 운영할 평면의 수를 정하는 일이라 하겠습니다. 작년에 하나였던 평면이 올해 둘이 되면, 조직은 둘 다 잘 돌리는 방법을 새로 배워야 합니다. 그것이 오늘의 뉴스가 기업에 건네는 두 번째 과제입니다.
결국 오늘의 뉴스가 기업에 남기는 메시지는 하나입니다. 컴퓨트는 위로 자라고 에이전트 실행은 아래로 내립니다. 이 둘은 모순이 아닙니다. 하나의 시스템에서 위로 층과 아래로 층으로 나뉜 것입니다. 위층은 더 큰 모델을 더 싸게, 아래층은 같은 에이전트를 더 가까이. 이 두 층을 동시에 설계해야 하는 조직이, 에이전트 시대의 실행 주체가 됩니다.
작년에 에이전트를 어디에서 돌릴지를 회의 한 번으로 정한 팀은 올해 각각의 에이전트를 어디에서 돌릴지를 설계 문서에서 정해야 합니다. 결정의 단위가 하나에서 여러 개로 바뀌고 결정의 장소가 회의실에서 문서로 옮겨가는 셈입니다. 이것이 오늘의 두 방향이 기업에 강제하는 변화입니다.
어디에서나 돌리고 깊게 최적화하는 런타임
ThakiCloud의 Paxis는 바로 이 질문을 핵심 설계로 삼고 있습니다. Paxis는 Agent-Native Cloud이며, 이미 정식 제품으로 나가고 있습니다. 운영 원리는 Run everywhere, Optimize deeply on ThakiCloud입니다. 그 작업이 도어야 할 곳에서 에이전트를 돌리고, 그 곳에서 깊게 최적화한다는 뜻입니다.
스펙트럼이 넓습니다. 온디바이스와 폐쇄망, 소버린과 온프렘 K8s 환경, 그리고 전용 클라우드까지, 두 방향의 양끝을 모두 품고 있습니다. 이를 가능하게 하는 것은 일급 리소스입니다. Skills, Tools, Policies, Audit Logs. 이 넷은 선택 부속품이 아닙니다. 실행 환경의 기본 구성요소입니다.
자율도는 L0부터 L3로 단계가 붙고 각 단계는 정책 게이트와 감사 로그로 통제됩니다. 실행은 격리 샌드박스 안에서 일어나는 것입니다. 모델은 작업별로 선택되고 CostRouter가 어떤 잡에 어떤 모델을 붙일지 결정합니다.
실행 평면이 여러 개가 되면, 각 평면에 무엇을 어떻게 둘지가 문제입니다. Paxis는 이 문제를 리소스로 답하는 셈입니다. MCP 커넥터와 스킬 마켓은 에이전트가 새 도구와 새 능력을 붙일 때, 그 붙임 자체를 정책과 감사의 대상으로 만듭니다. 평면마다 따로 만들던 것을 하나의 실행 평면으로 모은 것입니다.
어디에서 돌릴지, 얼마만큼의 자율도를 줄지, 어떤 모델을 쓸지. 이 세 갈래의 결정을 개발자의 습관에 맡기지 않고 플랫폼이 정해야 할 리소스로 못 박아둔 것이 Paxis의 실행 평면입니다. 두 방향이 동시에 실재하는 오늘, 그 두 층을 하나로 설계하는 실행 평면이 바로 Paxis가 서 있는 자리입니다.
오늘의 두 방향을 한 문장으로 묶으면 이것입니다. 컴퓨트는 작업이 있는 곳으로 이동합니다. 그리고 그 이동을 위한 실행 평면, 즉 런타임을 설계하는 쪽이 에이전트 시대를 갖게 됩니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.
- HuggingNews, OpenAI’s First Custom AI Chip Beats Nvidia GB300 by 1.9x on Power Efficiency
- HuggingNews, Anthropic Pitches $30 Trillion AI Market, Topping SpaceX Estimate
- HuggingNews, OpenAI Finishes 10T Parameter Bel Pretrain, Ending Anthropic’s Compute Lead
- HuggingNews, Jack Ma Buys HK$600 Million Alibaba Shares Following First New Issuance Since 2019
- HuggingNews, Perplexity Ships First Local AI Agent Runtime for Nvidia DGX Spark to Hit 73% Bench Score
- HuggingNews, Alibaba Ships 120B Qwen3.8-Flash-Next, First Glimpse of Qwen4 Architecture