모두가 가속기를 보는 동안, 구글은 호스트를 바꿨다

칩 시장만 보고 있다면, 오늘은 더 중요한 움직임을 놓치셨을 수 있습니다. 구글이 새로 내놓은 TPU 8i Max의 호스트 CPU를 Arm Axion으로 교체했습니다. 가속기는 여전히 TPU인 셈입니다. 데이터 흐름과 작업 오케스트레이션을 가르는 것은 그 곁의 ‘호스트’라는 조용한 계층이기 때문입니다. 칩의 화제 속에서 조용히 넘어가는 지점이, 오늘의 진짜 뉴스입니다.

가속기가 근육이라면, 호스트는 신경계라는 뜻입니다. AI 가속기마다 스포트라이트를 받지 않는 한쪽이 있습니다. 행렬 연산을 담당하는 칩, 즉 가속기. 그리고 데이터를 가져와 관리하고 작업을 순서대로 넘기는 CPU, 즉 호스트. 구글은 이제 신규 AI 가속기 호스트의 대부분이 Arm 아키텍처로 옮겨간다고 보도했습니다. 기사가 짧습니다. 읽을 여지는 깁니다. 호스트가 가속기가 어떻게 동작하는지, 데이터가 어디를 오가게 하는지, 작업 오케스트레이션을 누가 주관하는지를 정하기 때문입니다.

호스트라는 개념은 서버에 익숙한 분들에게 낯설지 않습니다. 일반 서버에서는 CPU가 운영체계를 돌리고 메모리를 관리하며 애플리케이션에 가속기를 차례로 배정해 줍니다. 이번에는 그 지위가 바뀌었습니다. 가속기가 AI의 중심이 되면서, 곁에 붙어 있던 CPU가 가속기의 운명을 가르는 ‘호스트’가 된 것입니다. 근육의 스펙은 한눈에 보입니다. 신경계의 가치는 고장이 났을 때만 알게 됩니다. 구글은 후자가 표준화할 가치가 있다고 베팅한 것입니다.

글의 핵심 개념을 형상화했습니다.

근육은 TPU, 신경계는 호스트

보도에 따르면 Axion 호스트 CPU는 TPU 8i Max의 데이터 관리와 오케스트레이션을 담당합니다. 가속기의 성능은 발표 날에 정해집니다. 그러나 호스트의 성능은 매일, 매초 다시 정해집니다. 데이터를 들고오는 일, 작업을 배분하는 일, 가속기 사이의 흐름을 유지하는 일이 모두 호스트의 손으로 지나갑니다. 같은 TPU라도 어떤 CPU가 호스트를 맡느냐에 따라 다른 얼굴을 보입니다. 과거 호스트는 당연한 대답이었습니다. 이제는 선택 변수가 되었습니다. 신규 가속기 호스트의 다수가 Arm으로 이동한다는 사실은, 구글 스스로 호스트를 표준화할 가치가 있는 플랫폼으로 보고 있다는 뜻입니다.

이 움직임에서 짚을 곳은 두 곳입니다. 첫째, 가속기 자체의 다양화입니다. TPU와 GPU, 그 밖의 가속기가 함께 사용되면 이들을 관리하는 공통 언어는 호스트 계층이 됩니다. 둘째, 이동성입니다. 호스트가 표준화되면 동일한 소프트웨어와 오케스트레이션 정책이 이질적인 하드웨어 사이를 오갈 수 있습니다. 스펙 경쟁보다 호스트라는 단어가 더 무겁게 느껴지는 이유가 여기에 있습니다.

이 뉴스의 무게를 또 다른 방식으로 보면, ‘다수’라는 단어에 있습니다. Arm 호스트를 채택한 것이 몇몇 모델이었다면 단순한 에피소드였을 것입니다. 그런데 신규 가속기 호스트의 다수가 하나의 아키텍처로 이동하고 있다면, 호스트가 플랫폼의 역할을 시작했다는 뜻입니다. 플랫폼에는 표준이 생깁니다. 표준이 정해지는 자리에서 소프트웨어와 오케스트레이션 정책을 옮기는 비용도 함께 정해집니다. 이질적인 가속기를 한 집단에 돌려야 하는 회사에 표준화된 호스트의 가치는 TPU 한 대의 성능을 넘어섭니다.

여기에 호스트가 바뀌면 무엇이 달라지는지 살펴볼 가치가 있습니다. 호스트의 아키텍처가 정하는 것은 데이터 이동의 경로, 메모리 관리의 방식, 작업이 넘어가는 순서까지입니다. 같은 가속기라도 호스트의 체제가 다르면 소프트웨어 스택을 다시 맞출 수 있습니다. 구글이 Arm 호스트를 표준으로 가져가는 이유는, 바로 이 다시 맞추는 비용을 한 번에 없애겠다는 계산이기 때문입니다. 가속기를 사서 넣는 것은 쉽습니다. 그것을 한 몸처럼 동작하게 하는 것은 호스트의 일입니다.

업계가 동시에 움직이는 ‘호스트’

구글만의 움직임은 아닙니다. 오늘의 다른 뉴스도 하나씩 같은 질문을 가리키고 있습니다. 누가, 어떤 환경에서 실행하고, 누가 조율하는가.

가장 무거운 것은 돈입니다. Claude AI 어시스턴트 개발사 Anthropic은 Microsoft와 Google과 100억 달러가 넘는 신규 하드웨어 계약을 맺었습니다. 계약의 목적은 컴퓨트, 즉 연산 자원 접근의 확대이기 때문입니다. 모델사가 수십억 달러 단위로 컴퓨트를 사들이는 시대에 호스트가 짊어져야 할 하중은 사업 문제로 올라갑니다. 컴퓨트가 특정 공급자에 집중될수록, 그것을 유연하게 다스리는 제어 계층의 가치는 커집니다. 수십억 달러짜리 컴퓨트 계약의 시대에는, 누가 관리하고 얼마의 비용으로 관리하는지가 질문이 됩니다. 그 관리가 일어나는 자리, 호스트가 자연스럽게 더 무거워집니다. 컴퓨트를 사고 파는 시장이 커질수록, 컴퓨트를 쓰는 방식을 정하는 시장의 비중은 더 빠르게 올라갑니다.

속도도 움직이고 있습니다. 구글은 코드네임 Hydrogen의 신규 모델, Gemini 4 Flash로 알려진 모델을 Jetski 개발 플랫폼을 통해 직원들에게 배포해 내부 평가를 진행 중인 것으로 전해집니다. 동시에 Gemini는 최신 앱 업데이트로 Apple CarPlay에 올라, iOS 호환 차량의 대시보드에서 음성 어시스턴트로 전 세계에 퍼지고 있습니다. 에이전트가 새로운 실행 컨텍스트로 이동하는 것입니다. 데이터와 작업을 오케스트레이션하는 호스트의 일도 따라서 넓어집니다. 차량 안의 음성 어시스턴트는 거친 성능보다 지연과 컨텍스트가 중요한 경우입니다. 사용자가 말을 건네는 그 자리가 곧 새로운 실행 컨텍스트가 되는 순간, 호스트가 감당할 조율의 폭도 함께 커집니다.

여기서 주목할 것은 장소입니다. 실제 사용자가 앉은 자리까지 모델이 이동하고 있다는 뜻입니다.

조율 도구도 생겼습니다. 전 Loom 창업자 Jans가 공개한 Roma 2.0은 AI 어시스턴트를 위한 태스크 관리 시스템입니다. 서로 다른 봇들이 공유 컨텍스트를 써서 하나의 프로젝트에 협업하도록 설계되었습니다. 에이전트의 뇌, 샌드박스의 몸, 조율의 신경. 오늘의 뉴스는 호스트 계층의 해부도를 그대로 보여주고 있습니다. 여러 에이전트가 컨텍스트를 공유하는 순간, 누가 무엇을 읽고 고칠 수 있는지의 질문이 생깁니다. 바로 호스트 곁의 경계 문제인 셈.

세 이야기를 한 장의 지도로 읽으면 같은 모양이 보입니다. 컴퓨트 계약은 호스트가 짊어져야 할 하중을 정하기도 합니다. Flash급 모델은 호스트가 얼마나 빨리 대응해야 하는지를 정합니다. 새로운 실행 컨텍스트와 조율 도구는 호스트가 어떤 역할을 더 맡을지를 정하는 것입니다. 하중, 속도, 역할. 세 가지가 동시에 늘어나는 자리에는, 그 세 가지를 한꺼번에 다스릴 수 있는 계층이 필요합니다. 그 계층의 이름이 오늘 여러 뉴스에서 같은 얼굴로 반복되고 있습니다.

flowchart TD
    subgraph HW["AI 가속기 시스템"]
        TPU["TPU 8i Max<br/>가속기, 근육"]
        HOST["Arm Axion<br/>호스트 CPU, 신경계"]
    end
    HOST --> D1["데이터 이동 경로"]
    HOST --> D2["메모리 관리 방식"]
    HOST --> D3["작업이 넘어가는 순서"]
    D1 --> TPU
    D2 --> TPU
    D3 --> TPU
    subgraph SIG["오늘의 신호 세 개, 한 장의 지도"]
        S1["Anthropic 100억 달러 컴퓨트 계약<br/>하중을 정한다"]
        S2["Flash급 모델<br/>속도를 정한다"]
        S3["새 실행 컨텍스트와 조율 도구<br/>역할을 정한다"]
    end
    S1 --> HOST
    S2 --> HOST
    S3 --> HOST
    subgraph SOV["호스트의 다른 얼굴, 주권"]
        V1["국방<br/>Helsing Clarity"]
        V2["엣지<br/>Tether 800M 모델"]
        V3["API<br/>Gemini 셀프호스티드 샌드박스"]
    end
    V1 --> M["실행환경의 주인<br/>공급자에서 고객으로"]
    V2 --> M
    V3 --> M

호스트가 정하는 세 가지를 오늘 신호들이 동시에 누르고 있고, 주권 신호 세 개는 같은 계층의 소유를 가리킵니다. 지도를 다시 말하면, 신경계의 하중과 속도와 역할이 늘어나는 자리는 실행환경의 주인이 공급자에서 고객으로 넘어가는 자리입니다.

호스트의 다른 얼굴, 주권

실행 환경이 다양해지면 다음 질문은 호스트의 소유를 누가 가질 것인가가 됩니다. 오늘의 신호 세 개가 힌트를 줍니다. 하나는 국방, 하나는 엣지, 또 하나는 하이퍼스케일러의 API입니다.

첫째, 국방입니다. 180억 달러 가치로 평가받는 독일 방위테크 스타트업 Helsing은 에이전틱 인텔리전스 플랫폼 Clarity를 공개했습니다. 유럽에서 Palantir의 Maven에 맞서 설계된 Clarity는 군대의 모니터링 임무를 돕습니다. 군사 영역에서는 실행 환경이 어디에서 도느냐가 전제입니다. 이런 플랫폼의 설계 요구가 주권입니다.

둘째, 엣지입니다. USDT 스테이블코인 발행사 Tether는 모바일 등 로컬 임무를 위한 800M 파라미터 신규 모델을 내놓았습니다. 클라우드 상시 연결 없이 온디바이스에서 데이터를 처리합니다. 스테이블코인 발행사가 AI에 들어왔다는 사실은 부차적입니다. 클라우드에 의존하지 않는 실행을 제품으로 삼았다는 것이 핵심입니다. 엣지에서 보면 같은 논리가 뒤집혀 작동합니다. 클라우드 의존이 적을수록, 곁의 호스트가 실행과 정책을 더 많이 지탱해야 합니다.

셋째, 그리고 가장 설득력 있는 것은 구글 자신입니다. Gemini API는 이제 매니지드 에이전트를 위한 셀프호스티드 샌드박스 지원을 제공합니다. 개발자가 자체 실행환경을 통합해 AI 에이전트를 구동할 수 있게 된 것입니다. 하이퍼스케일러의 에이전트 플랫폼이 실행환경의 소유를 고객에게 열어준 일. 오늘의 흐름을 한 문장으로 압축한다면 이 문장이 가장 적합합니다. 구글이 자신의 에이전트 플랫폼에서 실행환경의 자리를 비워준 것은, 실행의 책임과 데이터의 통제를 고객이 가져가겠다는 신호와 같은 뜻입니다. 같은 모델, 같은 API여도 실행이 고객의 환경에서 일어나는 순간, 그 환경을 어떤 정책으로 다스릴지가 다음 화제가 됩니다.

호스트는 더 이상 CPU만으로 설명되지 않습니다. 실행, 데이터, 정책, 주권이 모이는 계층이 되고 있습니다. 그리고 그 계층에서 실행환경의 주인은 공급자에서 고객으로 옮겨가고 있습니다. 세 신호의 공통 분모는, 실행환경이 고객의 통제 아래로 들어오고 있다는 것입니다. 국방은 주권이라는 이름으로, 엣지는 연결 절단이라는 이름으로, 하이퍼스케일러의 API는 고객의 선택권이라는 이름으로 같은 방향으로 가고 있습니다. 실행의 주체가 공급자에서 고객으로 넘어오는 일입니다.

에이전트 호스트가 일급 시민이 되는 자리

에이전트 세계에서는 이 호스트 역할이 이미 제품으로 자리를 잡았습니다. ThakiCloud의 Paxis는 에이전트 네이티브 클라우드입니다. 정식 제품 v1.1 GA로, 에이전트 워크로드의 호스트 계층을 담당합니다. Skills, Tools, Policies, Audit Logs는 일급 리소스로 관리됩니다.

오늘 뉴스가 드러낸 업계의 통증과 이 설계의 대응은 자연스럽게 겹칩니다. 컴퓨트 계약이 소수의 공급자에 집중되고 Flash급 모델의 단가가 계속 낮아지는 환경에서는, 작업별로 모델을 골라주는 CostRouter가 비용 변동성을 라우팅 정책으로 흡수합니다. 에이전트가 폐쇄망이나 주권 데이터센터, 고객이 직접 여는 K8s 클러스터에서 실행되어야 할 때는 격리 샌드박스 실행과 소버린/온프렘 K8s 배포의 ai-platform이 랜딩 포인트가 됩니다. 멀티에이전트 조율의 범위가 커지면 자율도 L0~L3 거버넌스와 정책 게이트, 감사 로그가 누가 무엇을 할 수 있는가의 경계를 만드는 것입니다. MCP 커넥터와 스킬 마켓은 외부 도구와 스킬이 이 호스트에 편입되는 길을 여는 일입니다. 에이전트가 여러 조직의 도구와 데이터를 거치는 순간, 감사 로그는 운영의 기본 자료가 됩니다. 오늘의 뉴스가 가리키는 실행환경의 다양화와 소유 이동은, 바로 이런 호스트 계층의 성숙도를 측정하는 잣대가 됩니다.

가속기의 호스트가 데이터 흐름과 오케스트레이션을 결정한다면, 에이전트의 호스트는 자율의 범위와 실행의 비용을 결정합니다. 구글은 자신의 호스트를 표준화하고 있고, 고객은 실행환경의 소유를 요구하기 시작했습니다. 오늘의 뉴스는 바로 그 지점을 가리키고 있습니다. 누가 실행의 주인을 맡는가의 질문이, 인프라의 질문이 된 해입니다.

어디를 봐야 할지

가속기가 화제의 대상이던 시기는 끝나가고 있습니다. 무엇을, 어디서, 어떤 규칙 아래 실행하는지를 가르는 호스트가 화제의 중심이 되던 시기가 시작되었습니다. 가속기가 상품화되는 세상에서 차이를 만드는 것은, 그것을 관리하는 호스트입니다. AI 업계의 방향을 보시려면 오늘처럼 호스트를 먼저 보시는 편이 좋습니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

• HuggingNews, Google Transitions Majority of New AI Accelerator Hosts to Arm Axion CPUs
• HuggingNews, Anthropic Adds $10B in New Compute Deals With Google and Microsoft
• HuggingNews, Former Loom Founder Jans Launches AI Agent Coordination Tool Roma 2.0
• HuggingNews, Helsing Unveils Clarity AI Platform to Rival Palantir’s Maven in Europe
• HuggingNews, Google Internally Tests New Hydrogen Gemini 4 Flash AI Model
• HuggingNews, Tether Releases 800M Parameter AI Model for Local Mobile Tasks
• HuggingNews, Google Launches Gemini AI Assistant on Apple CarPlay Worldwide
• HuggingNews, Google’s Gemini API Now Supports Self Hosted Sandboxes for Managed Agents