🎧 ▶ 5분 브리핑으로 듣기
▶ 오디오북 재생 (Google Drive)
NotebookLM 오디오 개요 (AI 생성)

같은 주에 두 가지가 일어났습니다. a16z의 ‘Charts of the Week’(8월 21일)가 오픈라우터 데이터를 인용해 AI 에이전트의 토큰 사용량이 지난 2월 이후 14배로 늘었다고 밝힌 그 주, 결제 기업 스트라이프가 오픈라우터 인수를 발표했습니다. 토큰을 쓰던 쪽과 정산하던 쪽이, 따로 움직이던 두 주체가 한 주 안에 손을 잡았습니다. ‘토큰이 새로운 달러’라는 말이 그 주에 실체로 떨어졌습니다.

오픈라우터는 모델 사이에서 라우팅을 중재하는 레이어였습니다. 결제 기업이 그것을 인수했다는 것은, 그동안 기술적 수치로만 다뤄지던 토큰의 흐름이 돈으로 정산될 준비가 됐다는 뜻입니다. 차트 기사가 데이터라면, 인수는 그 물리적 형태입니다.

오픈라우터는 월간 200조 토큰 이상, 1천만 명 이상의 사용자, 500개 이상의 모델을 라우팅하는 중립적 레이어입니다. 그래서 14배는 시장 전체의 절대 규모가 아닙니다. 한 관측점의 흐름일 뿐입니다. 다만 한 관측점만으로도 충분합니다. 모델을 부르는 주체가 더 이상 채팅창에 타이핑하는 사람이 아닙니다. 목표가 끝날 때까지 읽기와 쓰기, 실행을 되풀이하는 에이전트입니다.

14배 에이전트가 요구한 '계량기 개념을 형상화한 이미지 글의 핵심 개념을 형상화했습니다.

14배는 습관이 아니라 산술입니다

에이전트의 식욕이 커진 게 아닙니다. 산술입니다. 일을 하나 처리하는 에이전트는 매 단계에서 같은 문맥을 다시 불러오고 하위 작업을 호출하고 목표가 달성될 때까지 그 순환을 반복합니다. 반복할 때마다 토큰이 쌓입니다. 그래서 한 에이전트의 사용량이 사람 사용자의 약 5배까지 도달했습니다. 전체 14배는 그 5배에 에이전트 수의 증가를 곱한 결과입니다.

이건 ‘오늘 얼마나 썼나’라는 질문에 사용자 수를 세어서는 답이 안 된다는 뜻입니다. 사람 수는 그대로인데 청구서가 14배 뛸 수 있는 구조입니다. 변한 것은 사용의 양이 아닙니다. 사용의 모양입니다.

14배는 쓰는 방식 자체가 바뀌어서 생긴 숫자입니다. 방식이 바뀌면 비용 구조도 함께 바뀝니다. 비용 구조가 바뀌면 그 비용을 누가 보고 어떻게 배분할지가 새 질문이 됩니다.

국내에서는 같은 날 라이너와 리벨리온이 국산 NPU 기반 AI 풀스택 설루션을 추진한다는 소식도 나왔습니다. 에이전트 기술과 추론용 반도체 인프라를 묶어 운영 비용을 줄이려는 시도입니다. 14배라는 숫자가 왜 중요한지 여기를 보면 알 수 있습니다. 추론 단가 관리를 못 하면 에이전트 도입의 경제성이 그대로 악화됩니다. GPU 의존도를 낮추려는 국내 추론 인프라 수요, 에이전트별 토큰 예산, 비용 센터별 과금, 감사 데이터 요구가 함께 올라오는 배경이기도 합니다.

핵심 개념 요약 인포그래픽 1 NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.

계량기: ‘누가 썼나’가 1급 질문이 된 순간

숫자가 나온 직후 오픈라우터가 꺼낸 기능은 그래서 주목할 만합니다. 요청을 부서, 작업 유형, 에이전트 복잡도, 비용 센터별로 자동 분류하는 기능입니다.

토큰 비용 관리는 그동안 각 기업이 자기 방식대로 짊어졌던 문제였습니다. 플랫폼 쪽이 그 계량기를 플랫폼 기능으로 만들기 시작한 것입니다. 계량기는 세 가지를 의미합니다. 누가 썼고 무엇을 위해 썼고 얼마를 썼는지를 묻게 하는 것. 14배라는 총량이 계속 커지는 한, 이 세 가지는 ‘있으면 좋은 것’의 수준을 넘어서 에이전트를 도입할 수 있는 전제 조건이 됩니다.

한층 파고 들어가면 계량기는 결국 과금과 감사의 문제입니다. 비용 센터별로 자동 분류한다는 말은, 에이전트 사용량을 재무 언어로 번역해 배분한다는 뜻입니다. 배분된 사용량은 다음 주 감사에서 재현되어야 합니다. 에이전트가 무엇을 했는지, 얼마를 썼는지를 나중에 설명할 수 있어야 합니다. 이 설명 가능성이 없으면 14배 청구서는 주인 없는 숫자로 남습니다.

클라우드 사업자 관점에서도 함의는 같습니다. 단순 서빙에 그치지 않고 토큰 계측과 비용 배분을 내장한 에이전트 추론 플랫폼이 차별화 축이 됩니다. 14배의 시장에서 재는 자가 가격 짓는 자가 되고 가격 짓는 자가 책임을 배분하는 자가 됩니다. 이 순서가 플랫폼 진입의 순서입니다.

agent-14x-meter 슬라이드 1

같은 날, 한국의 세 개 계량기

한국 쪽에서도 같은 날 세 조직이 각각 자기 계량기를 만들기 시작했습니다.

신한투자증권은 ‘조직’이라는 답입니다. 8월 3일 AX본부 산하에 ‘AI 에이전트부’를 신설하고 국내 금융사 최초라고 밝혔습니다. 팀장 1개, 실무 3개, 그리고 에이전트 전문가 1명이 오류와 보안을 겸직하는 구조입니다. 본사와 영업 현장에 ‘AX 코디네이터’ 109명을 배치하고 24일에는 현업 직원이 과제 발굴부터 기획·구축·확산까지 주도하는 ‘AX 챔피언스데이’를 열었습니다. 그 전례는 에이전트 500개 규모로 계약 업무에 들어가 처리 시간을 2시간에서 5분으로 줄인 것입니다. 최초 적용 분야는 홀세일, 즉 법인 영업이고 이후 리서치·WM·IB·디지털 플랫폼으로 영역을 넓힙니다. 하반기 성과 지표는 ‘새로 만든 에이전트 수’가 아닙니다. 현장 적용률, 업무시간 감소, 생산성 증가입니다. 업계에서는 신한투자·다올·메리츠가 AX 전환을 앞다투는 것을 보고 이미 당면 과제로 인식하고 있다는 발언까지 나옵니다. 흥미로운 건 같은 행사에 마이크로소프트 코파일럿 교육과 AI 거버넌스 교육이 나란히 올랐다는 점입니다. 기술을 가르치는 자리와 권한·감사를 가르치는 자리가 한 테이블에 놓인 것입니다. 계량기를 읽는 주체가 109명의 조직이고 그 조직은 동시에 자기 권한과 감사를 학습하고 있습니다.

SK텔레콤은 ‘지표’이라는 답입니다. 유경상 AI CIC장은 ‘좋은 모델을 보유하는 것과 수천만 명이 매일 신뢰하며 쓰는 AI 서비스를 개발·운영하는 것은 전혀 다른 문제’라고 했습니다. 성공 기준은 ‘완료된 일의 숫자’입니다. MAU 1천만 명의 에이딧은 국민의 요청을 오케스트레이터가 배정하는 구조이고 기업 에이전트는 국방·제조·법무·세무 등 11개 기업·기관까지 올라갔습니다. 자체 모델 A.X K2는 68.8억 매개변수 MoE 구조로 추론의 경제학에 대응합니다. 이 서비스에서 하루 쌓이는 실행 데이터가 다음 모델과 에이전트 개선의 연료가 되는 클로즈드 루프입니다. 통신사 특성상 환각과 위험 행위를 잡는 상시 레드티밍 같은 안전 장치를 그 루프에 내재시키는 것도 전제입니다. 기사에서는 AIDC와 클라우드가 SK텔레콤 2분기 실적의 성장 요인으로 꼽힌 점도 함께 나옵니다. 서비스 전략과 인프라 투자가 나란히 간다는 뜻입니다. 계량기라기보다는, 계량해서 다시 배우는 순환 그 자체를 지표로 삼는 답입니다.

KT는 ‘인프라’라는 답입니다. ‘넥스트 IT’ 전략 아래 사내 AI 에이전트를 관리하는 ‘AX 통합 플랫폼’을 구축하고 전 그룹사로 확산 중입니다. 기존 AI 기반 개발 체계(AIDD)를 기획·설계·개발·테스트·운영 전 과정으로 확장한 AID-X 체계를 운영합니다. 차세대 사내 클라우드 ‘넥스트 IPC’ 기반 멀티·하이브리드 인프라를 세우고 ERP·BSS·OSS 등 핵심 업무 플랫폼을 현대화합니다. EoS 시스템 선제 전환과 재해복구 체계 강화, AI 기반 인증·결제 추진까지 포함됩니다. 그리고 정보보호와 서비스 안정성을 전제 조건으로 삼습니다. 같은 발표가 복수 매체에 동일일 보도되고 KT 공식 페이지에 ‘AX 플랫폼 컴퍼니’ 캠페인이 걸려 있을 정도로, 이번 발표는 통신사의 방향 전환을 알리는 대표 사례로 읽힙니다. 계량기를 코드와 플랫폼 안에 미리 심어 놓는 답입니다.

세 답은 모양이 다르지만 같은 지점에서 만났습니다. 질문의 중심이 ‘모델을 만들 수 있나’에서, ‘에이전트가 조직 안에서 일할 때 그것을 어떻게 관리하고 측정하고 책임지나’로 이동했기 때문입니다. 세 답 모두에서 ‘모델을 만들겠다’는 말은 빠집니다. 더 큰 모델을 만들지 않습니다. 에이전트가 일하기 시작한 뒤, 그것을 어떻게 다스리느냐만 남은 셈입니다.

agent-14x-meter 슬라이드 2

병목은 더 이상 모델이 아닙니다

KT의 발표는 한 문장을 말해 줍니다. 한국 기업의 AI 도입 병목은 이제 ‘에이전트 운영 기반’입니다. ‘모델’이 아닙니다. 통신사가 사내 에이전트 관리 플랫폼을 전사 표준으로 못 박는 순간, 그 문장은 가설에서 사실로 넘어갑니다. 그리고 14배라는 숫자는 그 사실에 붙는 정량 신호입니다. 세 조직의 발표와 오픈라우터의 14배가 같은 주에 겹친 것은 우연이 아닙니다. 청구서가 커진 시장에서, 다스릴 장치를 먼저 놓고 나온 쪽이 먼저이기 때문입니다.

앞으로 국내 에이전트 시장의 실질 경쟁 변수는 세 갈래입니다. 첫째, 데이터에서 학습, 서빙으로 이어지는 개선 루프의 속도. 둘째, 환각과 위험 행위를 막기 위한 상시 안전 검증. 셋째, 대량 운영 비용을 좌우하는 추론 경제학. 이 셋 모두 운영 문제입니다. 모델 성능의 문제가 아닙니다. KT가 검증된 활용 방식과 시행착오까지 공유해 조직 표준으로 정착시키겠다고 한 만큼, 에이전트 오케스트레이션·샌드박스·스킬 관리 인프라의 수요는 대기업과 공공을 중심으로 더 커질 여지가 큽니다. 그리고 금융처럼 데이터 주권과 보안 요구가 가장 높은 산업일수록, 이 운영 기반은 폐쇄망·온프레미스 인프라와 함께 확대될 수밖에 없습니다.

agent-14x-meter 슬라이드 3

청구서가 14배면, 계량기는 인프라입니다

agent-14x-meter 슬라이드 4

세 한국의 답이 결국 같은 벽에 닿습니다. 계량기를 어디에 둘 것인가. 109명의 코디네이터도 에이전트 사용량을 적어둘 자리가 필요하고 ‘완료된 일의 숫자’도 쫓을 수 있는 실행 환경이 있어야 세집니다.

다키클라우드의 팩시스는 이 전제에서 출발해 만들었습니다. 팩시스는 에이전트 네이티브 클라우드입니다. 스킬, 도구, 정책, 감사 로그가 일급 자원인 클라우드입니다. 에이전트의 자율도는 L0에서 L3까지 단계로 거버넌스받고 모든 실행은 정책 게이트를 통과해 감사 로그를 남기고 격리된 샌드박스 안에서 돕니다. CostRouter는 작업별로 다른 모델을 골라 14배 청구서를 작업 단위로 배분할 수 있게 합니다. 부서 단위 정산으로는 그걸 안을 수 없습니다. 에이전트는 MCP 커넥터로 외부 시스템에 닿고 검증된 스킬은 마켓을 통해 다시 돌아옵니다.

통신사나 대형 금융사가 내부에 이 플랫폼을 세울 때, 처음부터 사내에 만들기 어려운 중견기업과 산업 고객은 그 실행 환경을 외부 인프라로 받아야 합니다. 팩시스는 바로 그 자리를 제공합니다. 신한투자증권이 ‘지표는 업무시간 감소’라고 하고 SK텔레콤이 ‘지표는 완료된 일’이라고 하는 날, 실제로 계량기를 읽는 주체는 실행 환경입니다. 사람이 아닙니다. 팩시스는 그 실행 환경이고 클라우드에서 폐쇄망·온프레미스 K8s까지 조직 내부로 들어갈 수 있습니다.

에이전트의 청구서는 더 이상 회화 요금이 아닙니다. 14배 청구서가 도착한 날, 계량기는 선택의 수준을 넘어서 인프라가 됐습니다.

핵심 개념 요약 인포그래픽 2 NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

태그: agentops, AI 에이전트, cost-center, 엔터프라이즈 AI, openrouter, shinhan-investment-securities, stripe, token-cost

카테고리:

업데이트: