토큰이 싸질수록 청구서가 커지는 날
8월 말, 서울 강남 코엑스에서 열린 델 테크놀로지스 포럼 2026 무대에서 눈여겨볼 만한 경고가 나왔습니다. “AI 활용을 부추기지만 절대 지속될 수 없다.” 델의 발표자가 기업의 AI 비용 문제를 놓고 꺼낸 문장입니다. AI를 쓰는 이유는 기업마다 다르지만 장부에 찍히는 청구서만큼은 모두 통제 밖으로 흘러나간다는 공통점이 있다는 지적입니다.
AI의 단가는 매일 낮아집니다. 싸지면 더 쓰고 더 쓰면 총량이 크고 총량이 크면 청구서가 두꺼워지는 것입니다. 이 순환은 당연해 보이지만 정작 누구도 답을 못 내놓는 문제입니다. 그런데 이 이야기는 새로운 것이 아닙니다. 160년 전 경제학의 역사에서 이미 한 번 다뤄졌고 그 이름도 지어졌습니다.
글의 핵심 개념을 형상화했습니다.
1860년대, 석탄의 역설
19세기 중반의 영국에서는 증기기관의 효율을 끌어올리면 석탄을 아낄 수 있을 것이라는 기대가 컸습니다. 윌리엄 스탠리 제본스는 정반대를 주장합니다. 엔진이 석탄을 더 효율적으로 쓰면 증기를 돌리는 실질 비용이 낮아집니다. 비용이 낮아지면 더 많은 공장이 엔진을 돌리고 돌리는 공장이 늘면 석탄 총 소비는 오히려 증가합니다. 제본스는 이 현상을 ‘경제 개선의 역설’으로 불렀습니다. 자원이 싸지고 효율적이해질수록 총 소비는 줄지 않고 커진다는 뜻입니다.
이 역설은 석탄을 넘어 이후 에너지와 컴퓨팅, 그리고 지금의 AI까지 반복해서 등장한 구조입니다. 공통점은 하나입니다. 가격이 신호를 보내는 순간, 소비는 가격보다 빠르게 반응합니다. 오늘의 석탄은 토큰이고 증기기관은 추론입니다. 제본스가 묘사한 순환은 그대로 지금 기업의 AI 비용 장부 위에서 다시 벌어지고 있습니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
단가는 떨어지고 청구서는 오른다
델이 포럼에서 제시한 진단은 구체적이었습니다. 토큰 단가는 하락하지만 총 사용량 증가 때문에 청구 금액이 상승합니다. 그래서 AI 아키텍처 설계에 토큰 흐름을 반영해야 한다는 것입니다. 발표자들은 클라우드는 최신 모델과 수요 급증, 대규모 학습을 맡고 반복적 추론과 개인화 작업, 민감 데이터는 기업의 데스크사이드로 가져가는 하이브리드 조합을 제안했습니다.
비용과 통제가 이 분리의 근거입니다. 반복적이고 예측 가능한 추론은 단가가 싸고 안정적으로 돌려야 하는 작업이고, 그 작업은 데이터센터 밖으로 가져와야 청구서가 예측 가능해집니다. 민감 데이터는 아예 외부로 나가지 않는 쪽이 안전합니다. 바이라인네트워크의 보도에 따르면, 2026년은 클라우드 의존도를 낮추는 온프레미스 AI 추론 수요가 급증하는 원년으로 불립니다. 엔비디아 GB10 기반 워크스테이션을 중심으로 델, 에이수스, HP, 레노버 등 제조사들이 데이터센터 밖 추론 환경에 속속 뛰어들고 있는 것도 같은 맥락입니다.
단가가 떨어지는 속도는 예상보다 빠릅니다. 테크크런치 2026 스타트업 배틀필드 200에 선정된 국내 GPU 클라우드 스타트업 에이아이브는 RTX급 GPU와 유휴 데이터센터급 GPU를 하나의 운영 환경으로 합쳐 추론 인프라를 제공합니다. 이미 30곳 이상의 유료 고객 사이트를 운영 중이고 퍼블릭 클라우드 대비 40~80% 저렴한 추론 비용을 주장합니다. 이 주장이 절반만 사실이어도, 추론의 ‘경제 개선’은 이미 상당히 일어난 셈입니다. 추론 인프라 시장의 갈라진 지형도 같은 방향을 가리킵니다. 한쪽은 대규모 데이터센터 중심의 네오클라우드이고 다른 한쪽은 유휴 GPU를 서비스화하는 분산 아그리게이션입니다. 방향은 달라져도 전제는 하나입니다. 토큰 단가가 계속 내려가고 내려간 만큼 더 많은 워크로드가 추론 위에 오른다는 것입니다. 제본스 역설의 전제는 완성됐습니다. 이제 남은 것은 후제, 즉 총 소비가 불어나는 일입니다.
싼 토큰은 어디에 쓰이나
기업은 싼 토큰을 그대로 두지 않습니다. 에이전트에게 줍니다.
SK AX와 SAP는 독일 발도르프의 SAP 본사에서 ‘AI 네이티브 엔터프라이즈’ 구축을 위한 업무협약을 맺었습니다. 회계, 인사, 구매, 재고 영업까지 ERP의 통합관리 업무를 에이전틱 AI 기반으로 재설계하는 것이 목표입니다. 소프트웨어가 정보를 기록하던 시대를 지나, 에이전트가 판단하고 실행하는 운영 체계로 넘어가는 전환점입니다. SK AX는 자체 AXgenticWire ERP Suite를 SAP의 AI 에이전트 허브에 등록해 글로벌 고객에게 공급할 예정이며, 신제품 정식 출시 전에 실제 업무 환경에 적용하는 얼리 어답터 프로그램에도 참여합니다. 금융, 제조, 에너지 산업이 우선 대상입니다.
의미하는 것은 큽니다. AI 도입이 챗봇이나 단발 자동화에서 핵심 업무 시스템 내부로 이동하는 전환점이기 때문입니다. ERP는 기업의 돈과 재고 거래처, 인사 정보를 한데 아우르는 시스템입니다. 그 위에 판단하고 실행하는 에이전트를 올리는 순간, AI는 운영 체계의 일부가 됩니다. 도구가 운영 체계로 바뀌면, 문제는 ‘누가 얼마나 쓰고, 무엇을 했는지’로 넘어갑니다. 에이전트가 ERP 안에서 판단과 실행을 맡을수록, 이 질문에 답할 장치가 없으면 비용과 리스크는 함께 불어날 수밖에 없습니다.
글로벌 컨설팅사의 전망에 따르면, 에이전틱 AI로 운영을 재구조화한 기업은 그렇지 않은 기업보다 매출 성장이 약 2배, 비용 절감은 40% 이상입니다. 이 숫자가 사실이라면, 싼 토큰은 매출을 두 배로 만드는 연료가 됩니다. 그리고 연료가 싼 만큼, 더 많이 태웁니다.
국책 차원도 같은 길을 걷습니다. ETRI는 창립 50주년 기념 ETRI Conference에서 ‘모두의 AI 과학자(Co-Scientist)’를 핵심 컨셉으로 내세웠습니다. 가설, 데이터 분석, 실험, 검증 전 과정을 지원하는 멀티모달 파운데이션 모델이며 과기정통부와 ETRI, KISTI가 1,500억 원을 투입해 2031년까지 K-알파폴드 상용화를 목표로 합니다. 배경은 2035년까지 AI 데이터센터에 1,000조 원 이상을 투자하고 GPU를 15배 확장한다는 국가 목표입니다. 싼 토큰의 홍수는 하나의 챗봇에 머무르지 않습니다. ERP 안으로, 연구실 안으로, 그리고 국책 인프라 계획으로 빨려 들어갑니다.
홍수에는 온도가 있다.
토큰의 홍수는 물리적 서명도 가집니다. 열입니다. 에이전트가 늘수록 추론은 늘고 추론이 늘수록 전력은 늘어납니다. LG CNS는 경기 고양 삼송 데이터센터에 냉각수를 GPU 칩에 붙인 냉각판에 흘려 열을 직접 흡수하는 DTC, 즉 직접 칩 냉각 방식을 적용하기로 했습니다. 기존 공랭식은 1랙당 20~30kW 대응에 그치지만 차세대 GPU 랙은 200kW 이상의 전력 밀도로 설계되기 때문입니다.
네이버클라우드와 함께 80MW 규모 AI 팩토리를 설계 구축 운영 통합 방식으로 짓고, 블랙웰 울트라 대비 추론 성능이 약 3.3배라는 엔비디아 베라 루빈의 운영을 전제로 2027년까지 실증을 완료할 계획입니다. 성능이 3.3배가 되면 같은 작업에 더 적은 칩으로 더 많은 추론을 돌릴 수 있습니다. 다시 제본스로 돌아옵니다. 단위 비용이 떨어지니, 총량이 늘어납니다. 시장조사업체 마켓앤드마켓 전망 기준, 글로벌 데이터센터 액체냉각 시장은 2026년 40억7,000만 달러에서 2033년 276억5,000만 달러로 약 6.8배 성장할 것으로 보입니다.
제본스가 석탄 이야기에서 함께 언급한 것은 철과 석회석이었습니다. 기계가 좋아지면 석탄뿐 아니라 다른 자원의 소비도 함께 늘었다는 뜻입니다. 토큰 청구서의 열은 전기요금과 냉각 예산이라는 형태로, 이미 다른 장부에 찍힙니다.
빠진 변수는 가격이 아니라 통제
그렇다면 문제의 정체가 무엇입니까. 가격이 아닙니다. 사용이 불어나는 동안 통제의 수단이 불어나지 않는다는 것입니다.
델의 경고가 정확히 이곳에 착지합니다. 토큰 사용량을 견제하고 중앙적으로 컨트롤할 수단이 부족하다는 지적입니다. ERP 안에서 판단하며 움직이는 에이전트, 밤새 실험을 도는 Co-Scientist, 민감 데이터를 다루는 데스크사이드 추론. 각각은 합리적 선택입니다. 그런데 합리적 선택이 수천 번 누적된 자리에 계기가 없고 게이트가 없고, 기록이 없다면, 기업은 매달 말에 청구서에서만 사실을 알게 됩니다.
이게 위험한 이유는 단순합니다. 통제 없는 사용은 비용 문제를 넘어 데이터 유출과 감사 공백, 그리고 규제 리스크로 번집니다. 토큰이 싼데 통제 장치가 없으면, 싼 만큼 더 많이, 더 넓게, 더 빠르게 쓰입니다. 제본스 역설은 토큰을 비싸게 만들어 풀 수 있는 문제가 아닙니다. 토큰이 흐르는 자리에 통제의 지점을 두어야만 빠져나갈 수 있습니다. 결국 ‘얼마나 쓰느냐’의 문제를, ‘누가 쓰게 하고 어디까지 쓰게 하고 어떻게 확인할 것인가’의 문제로 바꿔야 하는 시점입니다.
청구서를 누가 손에 쥐는가
ThakiCloud의 Paxis는 이 질문에 대한 답으로 만들어진 정식 제품입니다. Paxis는 에이전트 네이티브 클라우드이며 스킬, 도구, 정책, 감사 로그를 일급 리소스로 관리합니다. 각 에이전트는 L0부터 L3까지의 자율도 수준에서 움직이고 위험한 동작은 정책 게이트를 지나야 하며 모든 실행은 감사 로그에 남습니다. 격리된 샌드박스에서 실행하고 MCP 커넥터로 외부 시스템에 연결하며, 기업의 자체 K8s 위에서도 돌아갑니다. 작업마다 적절한 모델을 골라주는 CostRouter까지 갖췄습니다.
오늘의 뉴스에서 드러난 통증은 이 구성과 일대일로 대응합니다. 델이 말한 ‘중앙 컨트롤 수단 부재’는 Paxis의 정책과 감사 로그의 결합입니다. ‘토큰 흐름을 아키텍처 설계에 반영하라’는 제안은 CostRouter로 설정이 됩니다. 민감 데이터를 데스크사이드로 가져가려는 움직임은, 자체 K8s 위에서 격리 실행을 제공하는 Paxis의 온프레미스 경로와 겹칩니다. SK AX가 밀고 있는 ERP 에이전트와, ETRI가 준비하는 Co-Scientist는 Paxis의 자율도 거버넌스와 샌드박스 실행이 이미 가정한 형상의 에이전트입니다.
결국 선택지는 둘입니다. 토큰이 싼 시기에 통제의 지점을 미리 두느냐, 아니면 청구서를 받아보며 추후에 통제 장치를 맞추느냐. 전자는 제본스의 후제를 우리 편으로 돌리는 일이고 후자는 역설의 피해자가 되는 일입니다. 토큰 단가가 계속 떨어지는 시대에, 기업의 통제의 지점이 갖는 가치는 함께 올라갑니다.
다음 장부
AI가 싸진 날. 그것은 곧 청구서가 커진 날이기도 합니다. 제본스는 석탄을 보며 사용이 늘어난다고 했고 오늘 우리는 토큰을 보며 같은 문장이 아직 유효하다고 확인했습니다.
다만 그때와 결이 다른 사실이 하나입니다. 증기기관에는 조절판이 있었습니다. 효율이 아무리 좋아져도, 사람이 밸브를 잠그면 그 이상의 증기는 나가지 않았습니다. 에이전트에는 아직 그런 조절판이 부족합니다. 그래서 오늘의 경고는 통제의 문제라고 할 수 있습니다. 토큰이 흐르는 파이프라인에 계량기와 게이트를 먼저 붙이는 기업이, 다음 달의 청구서에서 다른 숫자를 볼 것입니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.
- 뉴스퀘스트, AI 서버 발열 10배 뛰자 생각 바꿨다…LG CNS, 액체냉각 승부수
- 바이라인네트워크, 클라우드 대신 ‘내 책상’…델의 하이브리드 AI 승부수
- 아시아경제, ‘분산형 GPU 클라우드’ 에이아이브 “테크크런치 배틀필드200 선정”
- CNB저널(문화경제), SK AX, SAP와 ‘AI 네이티브 엔터프라이즈’ 동맹 강화
- 헤럴드경제, “AI가 과학자 동료로”…ETRI, 국가 ‘AI 혁신전략’ 제시