청구서 때문에 붙였는데, 알고 보니 결재선이었습니다 개념을 형상화한 이미지 글의 핵심 개념을 형상화했습니다.

이 흐름을 처음 감지한 부서는 기술팀이 아니었습니다

오늘 포춘코리아가 전한 숫자 하나가 눈에 걸립니다. AI 예산 계획을 수정한 기업이 62%입니다. 모델이 나빠져서도 아니고 프로젝트가 실패해서도 아닙니다. 클로드 코드나 코덱스 같은 코딩 에이전트를 긴 자율 작업에 투입하기 시작하자 토큰 소비가 예측 범위를 벗어났고, 그 청구서가 재무팀 책상에 먼저 도착했기 때문입니다.

그래서 기업들이 몰려간 곳이 AI 라우터입니다. 작업 난이도에 따라 모델을 자동으로 배분하는 계층이죠. Not Diamond의 대표는 낭비의 근본 원인을 아주 짧게 요약했습니다. 모든 작업에 가장 강력한 모델을 기본값으로 쓰는 관행입니다. 실제로 코인베이스는 토큰 사용량이 늘어나는 와중에도 AI 지출을 절반으로 줄였습니다.

여기까지는 비용 이야기로 읽힙니다. 그런데 라우터가 매 호출마다 실제로 하는 일을 평범한 한국어 문장으로 옮겨보면 다르게 들립니다. 이 일을 누구에게 맡길지 결정한다. 이건 원가 계산이 아니라 위임입니다. 회사에서 위임을 다루는 문서를 우리는 결재선이라고 부릅니다.

같은 기사에는 비용과 무관한 사건도 하나 섞여 있습니다. 특정 제공업체의 접근 제한 이슈입니다. 모델 하나에 업무 전체를 걸어둔 조직은 가격이 오를 때만 흔들리는 게 아니라 상대가 문을 조금만 좁혀도 그날 업무가 멈춥니다. 국내 대기업과 금융권이 맺고 있는 단일 벤더 계약 구조에 그대로 적용되는 이야기죠. 라우터를 붙인 조직이 실제로 산 것은 할인율이 아니라 갈아탈 수 있는 여지였습니다.

결제 회사가 라우팅을 사려는 이유

이 해석이 억지가 아니라는 증거가 같은 기사 안에 있습니다. OpenRouter가 스트라이프와 100억 달러 규모의 인수 협상을 진행 중이라는 소식입니다. 결제 회사가 모델 라우팅 인프라를 탐낸다는 사실은 그 자체로 성격을 알려줍니다. 결제업의 본질은 돈을 옮기는 것이 아니라 누가 무엇을 승인했는지를 다툼의 여지 없이 남기는 일이니까요.

세일즈포스도 같은 방향을 봅니다. 라우팅이 비용 절감을 넘어 신뢰성과 규제 준수, 거버넌스 영역까지 확장될 것이라고 전망했습니다. 정리하면 라우터는 값싼 모델을 고르는 스위치가 아니라, 어떤 작업이 어떤 실행자에게 흘러갔는지를 기록하는 장부에 가깝습니다. 청구서는 그 장부의 부산물일 뿐입니다.

비용만 보면 이기지 못하는 싸움입니다

라우터를 순수한 절감 도구로만 붙들면 곤란한 이유는 오늘 반도체 뉴스가 그대로 설명합니다.

조선비즈에 따르면 이번 달 본격 출하를 시작한 엔비디아 베라 루빈은 원가의 62%가 메모리입니다. 세대가 바뀌는 동안 GPU 원가는 약 57% 늘어난 반면 메모리 원가는 400% 넘게 뛰었습니다. HBM4가 GPU보다 비싼 부품이 된 셈이죠. 공급 쪽도 여유롭지 않습니다. 삼성전자는 초기 60%를 밑돌던 HBM4 수율을 반년 만에 80%까지 끌어올려 이른바 황금 수율 구간에 들어섰고 HBM4E 양산 일정까지 앞당겼습니다. 그만큼 시장이 물량을 급하게 원한다는 뜻입니다.

경쟁 구도도 흔들립니다. 카운터포인트리서치 전망으로 HBM4 점유율은 SK하이닉스가 54%에서 55% 사이로 선두를 지키고 삼성전자는 28% 수준에 머무르지만, 삼성의 HBM 매출은 전년 대비 189% 늘어난 24조원, 출하량은 143% 늘어난 112억Gb로 추정됩니다. 절대 규모가 아니라 증가 속도에서 판이 움직이고 있다는 뜻입니다.

범용 D램은 더 노골적입니다. 애플이 트럼프 행정부의 반대를 무릅쓰고 중국 창신메모리에 손을 내밀었다는 YTN 보도가 나왔습니다. 지정학 부담을 감수할 만큼 수급이 빡빡하다는 신호죠. 창신메모리는 기존 공급사보다 10%에서 30% 낮은 가격을 제시할 수 있는 카드를 쥐고 있었는데, 최근에는 오히려 삼성전자와 SK하이닉스 수준으로 가격을 고수하며 애플의 인하 요구를 거절했다는 보도까지 나왔습니다. 저가 공세를 펴야 할 후발주자가 값을 버틴다는 건 시장 전체가 파는 쪽에 유리하다는 뜻입니다.

패키징 병목은 시간표까지 길게 잡혀 있습니다. TSMC의 CoWoS는 2026년 물량이 이미 전량 소진됐고 리드타임이 52주에서 78주에 달합니다. 2026년 수요는 약 100만 웨이퍼로 2024년의 37만 웨이퍼에서 세 배 가까이 뛰었습니다. 이를 풀겠다는 룽탄 단지는 2029년에야 토지 수용에 들어갑니다.

라우팅으로 아껴둔 몫을 하드웨어 원가가 아래에서 도로 밀어올리는 구도입니다. 절감액과 인상분을 나란히 놓고 승부를 보려 하면, 협상 테이블에 앉을 상대가 우리 쪽에는 없습니다. 라우터의 값어치는 그 계산에 있지 않습니다.

데프콘이 알려준 진짜 값어치

같은 날 데일리시큐가 전한 데프콘 34 소식이 다른 쪽 문을 엽니다. 지난해 데프콘에서는 자율 해킹 에이전트가 사람의 개입 없이 스스로 챌린지를 풀어 우승했고, 올해는 이를 HalCTF라는 공식 경연으로 제도화했습니다. AI가 보안 분석을 돕는 도구에서 스스로 판단하고 행동하는 주체로 넘어간 것입니다.

클라우드 빌리지가 지적한 대목이 특히 무겁습니다. 에이전트와 서비스 계정, API 같은 비인간 신원이 급증하면서 권한 관리 복잡도가 감당하기 어려워지고 있다는 진단이죠. 공격 표면도 넓어졌습니다. 국내에서는 IP 기반 OT 기기가 100대를 넘는 환경이 전체 OT의 약 80%에 이릅니다. 자동차 텔레매틱스와 산업제어시스템, 선박과 항만 설비가 모두 여기에 들어옵니다. 그래서 업계의 과제도 침입 탐지에서 한 걸음 옮겨갔습니다. 누가 실제로 설비를 제어했는지 검증하는 인증 체계로요.

이 문장을 앞의 라우터와 겹쳐 읽으면 그림이 맞아떨어집니다. 위임에는 두 가지가 반드시 따라붙어야 합니다. 언제든 회수할 수 있는 권한, 그리고 나중에 다툴 때 꺼낼 수 있는 기록입니다. 둘 중 하나라도 없으면 그건 위임이 아니라 방치입니다.

국내 제조 현장에 대입하면 더 구체적으로 다가옵니다. 완성차나 조선 업계의 전사자원관리와 제조실행시스템, 물류관리 시스템이 뚫리면 피해는 데이터 유출에서 끝나지 않고 생산라인 장기 중단으로 번집니다. 자동차 부품과 항공우주 부품 공장을 대상으로 한 OT 보안 점검이 이미 진행 중인 것도 그래서입니다. 에이전트에게 설비 제어 권한을 한 뼘이라도 넘긴 순간, 그 권한이 어디까지 미치는지 설명하지 못하는 조직은 사고가 나기 전에 이미 취약합니다.

위임은 이미 시작됐습니다

오늘 나머지 기사들은 그 위임이 어디까지 왔는지를 보여줍니다.

삼성은 12만 명의 업무를 재설계하겠다며 사장단부터 시작해 위계 순으로 내려가는 AX 부트캠프를 돌리고 있습니다. 부서별로 알아서 도구를 들이던 방식과 달리 8대 업무 밸류체인 전반을 전사 표준으로 다시 그리겠다는 접근입니다. 눈여겨볼 지점은 제미나이와 챗GPT, 클로드를 동시에 공식 도입했다는 사실입니다. 멀티모델이 예외가 아니라 전제로 깔린 것이죠. 중국은 방향이 다릅니다. 파이낸셜뉴스가 짚었듯 챗봇보다 공장을 먼저 겨냥했고, 국가발전개혁위원회와 공업정보화부, 국가인터넷정보판공실이 함께 서명한 AI 에이전트 지침 위에서 무인 광산트럭처럼 과업이 좁게 정의된 현장부터 채워 나갑니다.

공공 영역도 움직입니다. 보건복지부와 국가AI전략위원회, 과학기술정보통신부가 함께 만든 의료 AI 전국망 계획은 병원마다 GPU를 사들이는 대신 국가가 인프라를 소유하고 공동으로 쓰게 하는 구조입니다. 보건소용 진료와 행정 패키지부터 진료과별 도구 바우처, 지능형 응급실, 개인건강기록 기반 건강비서까지 단계가 촘촘합니다. 2024년 응급실 미수용 사례가 5,657건이었다는 숫자가 이 계획의 절박함을 대신 말해줍니다. 2027년 이후 한국형 소버린 의료 AI 개발까지 명시돼 있고요.

민간에서는 네이버가 엔비디아 및 브룩필드와 100억 달러 규모 계약을 맺고 기가와트급 AI 팩토리를 직접 짓는 길을, 카카오가 설비투자 부담을 피해 카카오톡 트래픽 위에 에이전트를 얹는 길을 각각 골랐습니다. 두 회사 모두 2027년을 수익화 원년으로 제시했다는 점이 공교롭습니다. 개발 도구 쪽에서는 메타가 뮤즈 코드로 가격 경쟁을 걸었고 AWS는 키로 크루로 무인 자율 개발 워크스페이스를 내놨습니다. 어느 쪽으로 가든 사람이 아니라 에이전트가 일감을 받는 구조라는 점은 같습니다.

실행 기반도 조용히 성격이 바뀌었습니다. 디지털투데이에 따르면 통신 3사의 AIDC 경쟁은 얼마나 크게 짓느냐에서 얼마나 안정적으로 돌리느냐로 이동했습니다. 고밀도 GPU 랙의 발열을 공랭으로 감당하기 어려워지자 다이렉트 투 칩 액체냉각이 KT와 LG유플러스를 통해 국내에서 처음 상용화 단계에 들어섰고, SKT는 파네시아와 CXL 협력으로 자원 효율화를 택했습니다. 데이터센터 간 연결과 배터리 기반 전력 안정화가 나란히 승부처가 된 것도 같은 맥락입니다. 정부가 2035년까지 10기가와트 추가 구축을 지원하겠다고 밝힌 만큼 이 경쟁은 더 길게 갑니다.

라우터가 앉아야 할 자리

이 모든 조각을 하나로 묶는 질문은 결국 하나입니다. 라우터를 어디에 둘 것인가.

애플리케이션 바깥의 프록시에 두면 비용은 줄어들지만 기록은 남지 않습니다. 어떤 업무가 어떤 모델에 맡겨졌고 누가 승인했으며 무슨 도구를 건드렸는지가 분리된 로그로 흩어지죠. 사고가 났을 때 이 조각들을 사람이 손으로 이어 붙이는 회사와, 처음부터 한 줄로 남긴 회사의 차이는 그 날 하루 만에 드러납니다. 위임 결정이라면 위임을 다루는 것들과 같은 자리에 있어야 합니다. 정책과 감사 기록 옆에요.

ThakiCloud의 Paxis가 스킬과 툴, 정책, 감사 로그를 모두 일급 리소스로 두는 이유가 여기 있습니다. 에이전트의 자율도를 L0에서 L3까지 단계로 나누고, 도구 호출마다 정책 게이트를 통과시키며, 실행은 격리된 샌드박스 안에서 이뤄집니다. 작업별 모델 선택은 이 구조 바깥의 최적화가 아니라 안쪽의 한 축입니다. 비용을 줄이려고 붙인 CostRouter가 결과적으로 결재선의 한 칸이 되는 셈이죠. 삼성처럼 여러 벤더를 동시에 쓰는 조직이라면 MCP 커넥터로 모델과 도구를 갈아끼우면서도 감사 기록은 한 곳에 모입니다. 의료 전국망처럼 데이터가 밖으로 나가면 안 되는 곳에는 소버린 환경과 온프렘 쿠버네티스로 같은 통제를 그대로 옮겨 심을 수 있습니다.

오늘 뉴스를 한 줄로 압축하면 이렇게 됩니다. 기업들은 청구서 때문에 라우터를 검토하기 시작했는데, 정작 손에 쥐게 될 것은 누가 무슨 일을 왜 했는지 설명할 수 있는 능력입니다. 메모리 원가는 계속 오를 것이고 에이전트는 공격자 쪽에서도 자율적으로 움직일 겁니다. 그 두 압력을 동시에 견디는 조직은 더 싼 모델을 찾아낸 쪽이 아니라, 위임을 문서로 남긴 쪽이라고 봅니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

태그: agentops, 엔터프라이즈 AI, paxis, thakicloud

카테고리:

업데이트:

참고

생성 파이프라인에서 원인을 잘못 짚는 방법

 

이미지 모델은 같은 입력에 같은 출력을 주지 않습니다. 그래서 실패를 한 번 보고 원인을 지목하면 대개 틀립니다. 캐릭터 턴어라운드를 만들다 원인을 두 개 찾았는데, 여섯 번 더 돌려보니 하나는 존재하지 않는 원인이었습니다.