🎧 ▶ 5분 브리핑으로 듣기
▶ 오디오북 재생 (Google Drive)
NotebookLM 오디오 개요 (AI 생성)

데이터센터가 중심이 아니던 지도 개념을 형상화한 이미지 글의 핵심 개념을 형상화했습니다.

지도에 올리면, 데이터센터가 가운데에 없습니다

지난 하루의 AI 뉴스를 지도 위에 올려보면, 데이터센터가 가운데에 없습니다. 스페이스엑스는 2027년 4분기에 엔비디아의 차세대 칩을 궤도 위로 올릴 계획입니다. 샤오미는 스마트폰과 차에 대형 언어 모델을 돌리기 위한 전용 가속기를 설계했고 리퀴드AI는 실제 기기에 오픈 모델을 재는 스위트를 내놓았습니다. 에이전트를 만드는 사람, 배포 장소를 정하는 사람에게 이 뉴스들이 던지는 질문은 하나입니다. 에이전트가 어디서 도는가. 이 질문은 배포 세부 사항이 아니라, 이제 첫 번째 설계 판단입니다. 이 글은 그 지도를 한 기준으로 읽습니다. 컴퓨트가 어디로 가느냐. 그것은 추론의 비용과 지연, 그리고 데이터의 위치를 동시에 바꾸는 질문입니다. 그 답을 찾는 데는 오늘 하루치 뉴스가 족합니다.

핵심 개념 요약 인포그래픽 1 NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.

궤도: 2027년에 칩이 우주에서 AI를 돌립니다

오늘의 HuggingNews 다이제스트에 따르면, 스페이스엑스는 2027년 4분기에 엔비디아 베라 루빈을 최초의 우주 AI 컴퓨트로 배치합니다. 이번 배치는 스페이스엑스와 엔비디아 파트너십의 일환입니다. 엔비디아 베라 CPU는 에이전틱 AI 애플리케이션을 구동하고 그록 모델을 지탱하는 지상 인프라 확장에 쓰입니다. 칩의 사용자로 처음부터 에이전트가 명시된 셈입니다.

2027년 4분기는 대략 15개월 뒤입니다. 그 날짜 자체보다 중요한 것은, 실행 환경의 계획 지평선이 15개월 뒤 궤도까지 확장됐다는 사실입니다. 우주 컴퓨트는 아직 먼 미래처럼 들립니다. 다만 한 가지만 짚겠습니다. “궤도”가 AI의 실행 환경으로 정당화된 것입니다. 그동안 실행 환경의 목록은 데이터센터, 엣지, 온디바이스로 끝났습니다. 구획의 제약이 “데이터센터냐 아니냐”에서 “어디냐”로 넓어지고 있습니다. 에이전트가 일하는 장소의 목록에 우주가 추가된 날입니다.

ai-compute-map-beyond-datacenter 슬라이드 1

주머니: 스마트폰이 LLM을 위해 칩을 설계하는 시대

지상에서는 지도가 궤도보다 빠르게 넓어집니다. 샤오미가 X링 O100을 발표했습니다. 첫 전용 엣지 AI 가속기로, 대역폭은 1.22TB/s입니다. 3D 웨이퍼 온 웨이퍼 스택 공법을 써서 스마트폰, 차량, 로봇에서 온디바이스 대형 언어 모델 추론을 가능하게 합니다. 공정은 6nm입니다.

“전용”이라는 말이 숫자보다 크다고 봅니다. 그동안 스마트폰은 범용 칩으로 LLM을 돌려왔습니다. 이제 한 회사가 주머니에서 LLM만 돌리기 위해 칩을 설계하고 있습니다. 같은 날, 리퀴드AI와 아티피셜애널리시스는 피페트를 출시했습니다. 1만 개의 결과를 갖춘 첫 오픈 모바일 AI 스위트입니다. 아티피셜애널리시스의 평가에서 Nanbeige 4.2-3B와 LFM2.5-2.6B는 아이폰 17 프로와 갤럭시 S26 울트라에서 평균 지능 점수 63점으로 공동 최고를 기록했습니다.

1만 개의 결과가 있다는 것은, 모바일 지능이 어디까지 왔는지를 이제 감각이 아니라 실측으로 알 수 있게 됐다는 뜻입니다. 클라우드 모델처럼, 기기에 올리는 모델을 벤치마크로 비교할 수 있는 시점입니다. 작은 모델이 똑똑해집니다. 똑똑해져서 어디에서 돌까요. 기기 자신에서입니다. 모델이 기기에 있으면 데이터를 왕복할 필요가 없고, 지연을 기다릴 필요도 없습니다. 온디바이스 추론이 확산되면 에이전트 워크플로에도 분할 문제가 생깁니다. 어떤 단계를 기기에 두고 어떤 단계를 클라우드로 보내느냐는, 이제 모델 선택 문제가 아니라 워크플로 설계 문제입니다. 주머니가 본격적인 실행 환경이 되고 있습니다.

ai-compute-map-beyond-datacenter 슬라이드 2

데이터센터: 밀려나는 쪽, 논쟁의 쪽

데이터센터에서는 속도 경쟁과 지분 경쟁이 동시에 붙었습니다. 엔비디아는 저지연 추론 가속기 그록 3 LPX를 정식 양산 단계로 옮겼습니다. 네비우스 클라우드 첫 데뷔에서 초당 3,400토큰을 기록했습니다. 목표 워크로드는 코딩 에이전트와 멀티스텝 추론입니다. 가장 빠른 컴퓨트가 “에이전트의 턴 중간에서 다음 토큰을 얼마나 빨리 돌려주느냐”에 특화되고 있습니다. 저지연이 옵션이 아니라 자체 제품 카테고리가 된 신호입니다.

지분 경쟁도 같은 시간대에 움직였습니다. 엔비디아는 300억 달러 밸류에이션 기준 페플렉시티의 자금 조달 라운드를 주도하고 있습니다. 두 회사 간 논의는 과거 수억 달러 단위의 자금을 지급하는 방안을 검토하던 방향에서, 전통적인 지분 투자로 바뀌었습니다. 칩 회사가 모델 회사에 지분을 넣는 구조는, 추론 원가의 지형이 칩 쪽으로 이동하고 있다는 신호입니다. 칩과 모델의 경계가 지분으로 이어지면서, 추론 비용 구조는 더 복잡해지고 있습니다.

결제 데이터도 같은 지도를 읽고 있습니다. 결제 데이터 그룹 램프 조사에 따르면, 앤스로픽 도구를 쓰는 기업은 가성비 좋은 오퍼스 5에 플래그십 페이블 5보다 더 많이 지출하고 있었습니다. 페이블 5의 지출 비중은 11%까지 내려갔습니다. 플래그십이 더 이상 기본값이 아니라, 워크로드별로 선택되는 옵션이 된 것입니다. 모델 선택이 이제 경제적 결정입니다.

동시에 데이터센터 주변의 사회적 마찰이 커지고 있습니다. 미국에서 샌더스 의원은 국민 지지 75%를 근거로 새 AI 데이터센터 건설의 연방 차원 유예를 촉구하고 있습니다. 트럼프 대통령은 대규모 컴퓨팅 시설 건설을 반대하는 지역이 “엄청난 일자리와 돈”을 거절하고 있다고 말했습니다. 집중된 컴퓨트에 전력·용수 비용이 붙었고, 이제 사회 비용도 가격표에 오르고 있습니다. 집중할수록 비용이 비싸지는 구조입니다. 같은 데이터센터가, 건설되는 것만으로 사회적 합의를 요구하게 된 것입니다.

ai-compute-map-beyond-datacenter 슬라이드 3

왜 지도가 바뀌었는가

뉴스들의 공통선은 에이전트입니다. 학습은 몇 년 전 데이터센터로 들어갔습니다. 추론은 이제 일하는 곳으로 가는데, 네 가지 동력이 붙어 있습니다.

첫째, 지연입니다. 에이전트는 한 턴 안에 여러 도구를 호출하고 결과를 다시 읽습니다. 도구 호출이 많아질수록, 턴당 감수해야 하는 대기시간도 커집니다. 이 구조에서 첫 토큰까지의 대기시간은 체감 속도가 아니라, 작업의 성패를 가릅니다. 그래서 그록 3 LPX가 코딩 에이전트를 겨냥합니다.

둘째, 데이터의 위치입니다. 차량, 스마트폰, 로봇은 작업의 맥락 그 자체입니다. 이 데이터를 데이터센터까지 왕복시키면 비용과 지연과 규제가 동시에 붙습니다. 그래서 X링 O100이 “전용”으로 태어났습니다.

셋째, 비용입니다. 램프의 데이터가 보여주는 바로는, 기업은 이미 워크로드별로 모델을 고르기 시작했습니다. 플래그십으로 다 돌리지 않는다는 뜻입니다.

넷째, 일의 범위가 넓어졌다는 점입니다. 오늘의 다이제스트에는 또 하나의 신호가 실려 있었습니다. 앤스로픽 소속 수학자 레벤트 알포게가 클로드 오퍼스 5와 함께 6차원 구(S⁶)의 복잡한 구조를 발견했다고 밝혔고 1948년부터 미해결이던 문제를 위한 108페이지 분량의 구성이 함께 제시됐다는 보도입니다. 발견의 내용보다, 프런티어 연구에 에이전트가 공동 작업자로 참여했다는 사실이 오늘의 포인트입니다. 에이전트의 일이 프런티어 발견 수준으로 확장되면, 실행 환경의 신뢰 비용인 감사와 승인, 격리도 일급 비용이 됩니다.

결과는 실행 환경이 제각각이라는 것입니다. 같은 에이전트도 기기에 따라, 지역에 따라, 규정에 따라 다른 제약 아래에서 돕니다. 모델은 하나, 환경은 여러 개입니다. 이 차이를 플랫폼이 흡수하지 못하면, 전부 애플리케이션 코드로 새어나갑니다. 그리고 그 이질화는 해가 지날수록 넓어질 것이 분명합니다.

ai-compute-map-beyond-datacenter 슬라이드 4

지도를 읽는 법

에이전트 시스템을 만드는 쪽에서는 이 지도를 네 항목의 체크리스트로 읽을 수 있습니다. 먼저 실행 환경을 목록으로 뽑습니다. 클라우드, 온디바이스, 엣지, 그리고 계획에 오른 새 환경까지, 에이전트가 실제로 도는 장소의 전체를 써 봅니다. 예상 밖의 장소가 목록에 오르는 순간, 이 지도는 내 시스템에 적용되는 순간입니다. 두 번째로 환경별 제약을 기록합니다. 지연, 대역폭, 전력, 규제, 그리고 데이터가 어디에 붙어 있는지입니다.

셋째로 작업을 환경에 매핑합니다. 어떤 단계는 기기에 붙어야 하고, 어떤 단계는 저지연 가속기에 붙어야 하고, 어떤 단계는 여전히 데이터센터에 남습니다. 온디바이스 모델의 지능이 실측으로 확인된 오늘, 이 매핑은 추측이 아니라 숫자로 짚을 수 있습니다. 넷째로 감사의 범위를 그립니다. 어떤 환경에서 실행했든, 실행 기록이 한 곳으로 수렴할 수 있는 구조를 먼저 잡아 두어야 합니다.

이 네 가지를 지금 못 그리는 팀은, 새 환경이 하나씩 추가될 때마다 애플리케이션 코드를 다시 뜯게 됩니다. 환경이 넓어질수록 그 비용은 선형이 아니라 조합수만큼 커집니다. 반대로 이 네 항목을 지금 그려 둔 팀은, 새 환경이 등장할 때마다 목록에 한 줄을 추가하기만 하면 됩니다.

한 걸음 더: 이 지도를 내일의 것으로 읽으면

오늘의 신호를 앞으로 1년으로 읽으면, 방향은 이미 정해져 있습니다. 2027년 4분기의 궤도 배치는 로드맵에 오른 것이고, 엣지 가속기는 설계 단계에서 발표 단계로 넘어왔습니다. 소형 모델의 지능은 1만 개의 벤치마크 결과로 실측이 되고 있으며, 저지연 가속기는 정식 양산에 들어갔습니다.

여기서 중요한 것은 새 환경이 아니라, 새 환경이 계속 추가된다는 사실입니다. 한 해에 하나씩, 그리고 그것마다 제약이 다릅니다. 그래서 “어디서”를 설정 값으로 다루는 조직과, 플랫폼의 축으로 다루는 조직은 2년 뒤에 완전히 다른 위치에 서게 됩니다. 전자는 매번 애플리케이션 코드를 다시 뜯게 되고, 후자는 목록에 한 줄을 추가하면 됩니다.

지도가 넓어지는 날, 경쟁은 가장 빠른 칩을 가진 쪽이 아니라, 지도 전체를 하나의 축으로 다스리는 쪽에서 나옵니다.

그래서 무엇을 지어야 하나

먼저 부서지는 것을 봅니다. 단일 클라우드를 전제로 한 시스템은 더 이상 성립하지 않습니다. 모델을 미리 고정해 두는 전제도, 램프의 데이터가 보여주듯 기본값이 아닙니다. 하나의 환경을 전제로 그린 감사 추적은, 스마트폰과 엣지에서 도는 에이전트를 담지 못합니다.

답은 “어디서”라는 축을 배포 설정에서 끌어내, 플랫폼의 1급 축으로 올리라는 것입니다. 어떤 환경에서 돌릴 것인가, 그 환경에 어떤 모델을 붙일 것인가, 실행 후 무엇을 감사할 것인가, 어느 정도의 자율도를 줄 것인가. 이 네 질문은 더 이상 개별 애플리케이션의 일이 아닙니다.

다키클라우드의 Paxis는 이 지도를 전제로 지은 Agent-Native Cloud 정식 제품입니다. Skills, Tools, Policies, Audit Logs를 일급 리소스로 다루고, 자율도 L0에서 L3까지 단계적으로 부여합니다. 정책 게이트로 실행을 붙잡고 감사 로그로 모든 것을 기록하며 격리 샌드박스에서 실행합니다. 작업별 모델 선택이 내장되어 있고 소버린과 온프렘 K8s 환경도 지원합니다. 운영 원칙은 “어디서나 실행하고, 다키클라우드에서 깊이 최적화한다”는 것입니다. 실행 환경의 스펙트럼이 넓어질수록, “어디서”를 관리 가능한 축으로 다루는 플랫폼의 가치는 오를 수밖에 없습니다.

데이터센터는 사라지지 않습니다. 다만 유일한 중심은 아닙니다. 오늘의 스마트폰, 이번 분기의 가속기, 15개월 뒤의 궤도. 지도가 다시 그려질 때마다, 에이전트를 올리는 쪽은 그 위에서 다시 질문하게 됩니다. 어디서 돌릴 것인가.

핵심 개념 요약 인포그래픽 2 NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

태그: ai-frontier, llmops, paxis, thakicloud

카테고리:

업데이트:

참고

한자 필터를 언어별로 다시 짜고 다섯 언어에서 재봤습니다

 

한국어용 마스크를 일본어에 그대로 쓰면 상용어 12개 중 11개가 잘립니다. 판정 기준을 레거시 국가 인코딩으로 바꿔 언어별 마스크를 만들고 각 300 프롬프트로 측정했습니다. 번체 중국어는 오염률이 40.0%에서 1.3%로 내려갔고, 아랍어는 애초에 고칠 오염이 없었습니다.

모델을 공개할 때 카드만 검사하면 원장이 새어 나갑니다

 

허깅페이스에 마스크 6종을 공개하면서 카드와 스크립트는 grep으로 확인했는데, 나중에 동봉한 측정 원장 JSON이 내부 레지스트리 호스트와 클러스터 이름, S3 레이아웃을 그대로 싣고 나갔습니다. 검사 대상이 아니라 검사 시점이 문제였고, git 히스토리까지 접어야 끝났습니다.