7일을 사는 에이전트는 자기 기억을 어디에 둡니까 개념을 형상화한 이미지 글의 핵심 개념을 형상화했습니다.

같은 날, 두 층에서 기억 이야기가 나왔습니다

오늘 아침 다이제스트에는 서로 관련이 없어 보이는 두 개의 발표가 나란히 들어왔습니다.

하나는 구글 클라우드입니다. Gemini Enterprise Agent Platform을 정식 출시하면서 에이전트에게 세 가지를 주었습니다. SPIFFE 기반의 고유 신원, 최대 7일까지 끊기지 않는 런타임, 그리고 Memory Bank라는 장기 기억 저장소입니다. 다른 하나는 서울경제가 전한 SK하이닉스 소식입니다. 샌디스크와 함께 HBF의 첫 표준 규격을 공개했고, 낸드 기반이면서 최대 3.0TB/s 대역폭에 접근하고 D램 대비 8배에서 16배 용량을 제공하는 새 메모리 계층을 만들겠다고 했습니다. 표준을 서두르는 이유로 업계가 지목한 것은 AI 추론에서 폭증하는 키밸류 캐시였습니다.

한쪽은 소프트웨어 API고 다른 쪽은 실리콘입니다. 그런데 두 발표가 푸는 문제는 같습니다. 에이전트가 오래 살기 시작했고, 오래 사는 프로세스는 기억을 갖는다는 것입니다. 기억은 어딘가에 저장돼야 하고, 지금 그 자리는 지독하게 비쌉니다.

기억이 갑자기 비싸진 이유

작년까지 기업이 산 것은 응답이었습니다. 질문을 보내면 답이 오고, 세션은 거기서 끝났습니다. 끝나는 대화에는 기억이 필요 없습니다. 컨텍스트는 매번 새로 채워 넣으면 그만이었습니다.

지금 기업이 사는 것은 실행입니다. 컨슈머타임스가 전한 국내 식품과 외식업계 사례를 보면 이 전환이 얼마나 물리적으로 진행됐는지 알 수 있습니다. 동원그룹은 계열사별 전담 AI에 실제 사번을 부여하고 기수제로 관리하기 시작했습니다. 다이닝브랜즈그룹은 6개월을 들여 자체 통합 플랫폼을 만들고 HR과 개인정보, 마케팅, IT 기능별 에이전트를 한꺼번에 배포했습니다. 삼양그룹은 현장 실무자가 직접 AI 모듈을 만드는 100일 챌린지를 돌렸습니다. 15개 식품기업이 참여한 K-푸드 스마트제조 얼라이언스가 출범한 것을 보면, 이 흐름은 이미 개별 기업의 실험을 넘어섰습니다.

사번을 받은 존재는 오늘 한 일을 내일도 알고 있어야 합니다. 전표를 심사하다 중단되면 어디까지 봤는지 기억해야 하고, 법령 분석을 이어가려면 지난주에 어떤 조항을 배제했는지 근거를 들고 있어야 합니다. 구글이 런타임을 7일로 늘린 것은 성능 자랑이 아니라 이 요구에 대한 응답입니다. 그리고 7일 동안 살아 있는 프로세스가 수백 개 돌아가면, 그 상태를 전부 HBM에 얹어 둘 수는 없습니다. SK하이닉스가 만들려는 계층은 정확히 그 사이의 빈칸입니다. HBM보다 훨씬 싼 비트당 원가로 대용량 캐시를 GPU 가까이에 두겠다는 발상이지요.

같은 전환이 국가 단위에서도 관찰됩니다. 조선비즈가 정리한 독자 파운데이션 모델 사업의 2차 평가 기준을 보면, 1차가 모델 자체의 기술적 완성도와 독자 개발 여부를 봤던 것과 달리 이번에는 실제 업무를 수행하는 에이전트 역량과 산업 현장 적용 가능성이 핵심 심사 항목으로 올라왔습니다. LG AI연구원과 업스테이지, SK텔레콤, 모티프테크놀로지스 네 팀 중 최종 두 팀만 남는 구도에서, 심사의 무게가 벤치마크 점수에서 실행 능력으로 옮겨간 것입니다. 정부 예산이 고르는 기준마저 실행형으로 바뀌었다면 그 아래 인프라 요구도 같이 바뀝니다.

다만 시점 차이는 정직하게 봐야 합니다. 구글의 7일 런타임은 오늘 쓸 수 있는 상품이고, HBF 기반 SSD 양산은 2027년 이후로 잡혀 있습니다. SK하이닉스가 같은 발표에서 375단 4D 낸드 시제품을 함께 내놓고 청주 M17에 19조1000억 원을 투입하기로 한 것을 보면 방향은 분명하지만, 그 물량이 서버 랙에 꽂히기까지는 시간이 걸립니다. 하드웨어가 도착하기 전까지 그 간극을 메우는 것은 소프트웨어의 몫입니다. 어떤 상태를 GPU 메모리에 남기고 어떤 상태를 흘려보낼지, 재개할 때 무엇을 다시 계산할지를 결정하는 층이 앞으로 몇 년 동안 비용을 가릅니다.

기억에는 권한이 따라붙습니다

여기서 문제가 한 겹 더 생깁니다. 기억은 데이터고, 데이터에는 접근 권한이 있습니다.

데이터넷이 정리한 에이전트 보안 기획은 이 지점을 정면으로 짚습니다. 기존 제로 트러스트와 IAM 체계는 사람을 전제로 설계됐기 때문에, 에이전트가 실행하는 순간의 행위를 통제하지 못합니다. 사후 감사에서 사전 실행 제어로 넘어가야 한다는 것이 기사의 요약이고, 근거로 든 가트너 수치가 매섭습니다. 비인간 신원의 56%가 거버넌스 밖에 있고, 에이전트를 도입한 조직의 67%가 이미 범위를 벗어난 접근을 경험했습니다. 팔로알토 네트웍스와 넷스코프, 옥타, 국내의 소프트캠프까지 에이전트 전용 신원 제품을 내놓고 있고, FIDO 얼라이언스와 IETF는 표준화에 착수했습니다.

구글이 발표에서 인용한 숫자도 같은 방향을 가리킵니다. IT 리더 1,900명을 대상으로 한 OutSystems 조사에서 기업의 96%가 이미 AI 에이전트를 운영 중이라고 답했지만, 그것을 실제로 통제할 수 있다고 답한 비율은 12%였습니다. 84포인트짜리 이 격차가 각 클라우드가 신원과 런타임, 메모리 계층을 서둘러 정식 상품으로 올리는 진짜 동인입니다. AWS는 Bedrock AgentCore를 프로덕션 단계로 밀었고, 마이크로소프트는 Azure AI Foundry에 Agent 365라는 제어판을 붙였으며, 세일즈포스는 Agent Fabric을 다시 꺼냈습니다.

기억을 준다는 것은 권한을 준다는 뜻입니다. 지난주 대화를 기억하는 에이전트는 지난주 조회한 테이블에 다시 접근할 수 있다는 의미이기도 하니까요. 사람이라면 퇴사 처리와 함께 계정이 정지되지만, 사번을 받은 에이전트에게는 아직 퇴사 절차라 부를 만한 것이 없습니다. 동원그룹의 기수제가 흥미로운 실험인 동시에 새 숙제인 이유가 그렇습니다. 조직도에 자리를 만들었다면 그 자리를 비우는 방법도 함께 설계해야 합니다.

여기서 국내 도입 방식의 위험 하나가 드러납니다. 오늘 소개된 세 회사는 각각 협력업체 자체 개발과 외부 데이터 플랫폼 연계, 사내 경진대회라는 서로 다른 경로를 택했습니다. 속도는 빨랐지만 계열사마다 신원 체계와 보안 정책이 달라질 여지가 큽니다. 감사 사각지대는 보통 시스템이 없어서 생기는 것이 아니라, 서로 다른 시스템이 각자의 로그를 남길 때 생깁니다.

그래서 기억의 위치가 주권 문제가 됩니다

기억이 데이터라면, 그 데이터가 어느 국경 안 어느 스토리지에 있는지가 곧바로 규제 문제가 됩니다.

메디게이트뉴스가 전한 국내 대형병원 논의가 이 문제를 가장 선명하게 보여줍니다. 서울대병원의 K-MED.ai와 삼성서울병원의 ZEO Med 2는 의사국가고시 벤치마크에서 세계 최고 수준 성능을 확보했습니다. 그런데 같은 자리에서 서울대병원이 도입의 한계로 지목한 것은 모델 품질이 아니라 GPU 부족이었습니다. 진료기록 자동화나 판독 보조를 에이전트가 맡으면 그 에이전트의 기억에는 환자 데이터가 남습니다. 원내 폐쇄망을 벗어날 수 없는 데이터입니다. 하이퍼스케일러의 완전관리형 메모리 서비스를 그대로 쓰기 어려운 이유가 여기 있습니다.

아이티데일리가 전한 레드햇의 정의가 이 상황에 잘 맞습니다. 소버린 AI는 데이터센터의 위치가 아니라 인프라와 데이터에 대한 통제권의 문제라는 것입니다. 레드햇이 근거로 든 GPU 공급망 대기 12개월에서 18개월이라는 숫자는 벤더 종속이 비용이 아니라 사업 연속성 리스크라는 점을 말해 줍니다.

기억을 나누는 다른 방향도 오늘 신호에 함께 있습니다. 디지털투데이가 전한 온디바이스 LLM 경쟁이 그렇습니다. 메타와 엔비디아가 300억 매개변수대 모델을 오픈 라이선스로 내놓으면서 개인 PC에서 도는 경량 모델이 새 격전지가 됐고, LG전자는 2026년형 그램에 자체 sLM을 실어 네트워크 없이 문서 요약과 번역을 처리합니다. 민감한 데이터를 외부로 내보내지 않아도 되는 이 경로는 규제 산업에서 특히 매력적입니다. 가벼운 판단은 단말에서 끝내고 무거운 추론만 위로 올리면, 클라우드에 남는 기억의 양 자체가 줄어듭니다. 기억을 어디에 둘 것인가라는 질문에는 덜 남기는 것도 하나의 답입니다.

실행할 자리가 모자란다는 사실은 국내 지표로도 확인됩니다. 프라임경제에 따르면 NHN클라우드는 양평 데이터센터 가동과 B200 기반 GPUaaS 공급으로 클라우드 부문 매출이 전년 대비 85.3% 늘었습니다. 국내 데이터센터 전력 수요는 2025년 4,461MW에서 2028년 6,175MW로 늘어날 전망이고, 2027년과 2028년 공급 예정 물량 상당수가 이미 임차인을 확보한 상태입니다. 수요가 공급을 앞서는 구조가 굳어지는 중입니다.

기억 계층을 고를 수 있는 쪽이 유리합니다

정리하면 오늘의 신호는 이렇습니다. 에이전트는 오래 살게 됐고, 오래 사는 만큼 기억을 갖게 됐으며, 그 기억은 비싸고 규제받고 이동이 어렵습니다. 하이퍼스케일러는 이 계층을 완전관리형 상품으로 팔기 시작했고, 반도체 진영은 2027년 이후 더 싼 저장 계층을 준비합니다. 그 사이에서 기업이 실제로 결정해야 할 것은 단순합니다. 우리 에이전트의 기억을 어디에 둘 것인가입니다.

ThakiCloud가 Paxis를 만들 때 Skills와 Tools, Policies, Audit Logs를 일급 리소스로 올린 이유가 여기 있습니다. 에이전트의 기억과 권한이 애플리케이션 코드 안에 숨어 있으면 감사도 이전도 불가능하기 때문입니다. 어떤 스킬이 어떤 툴을 부를 수 있고 그 호출이 어떤 정책 게이트를 통과했는지가 조회 가능한 객체로 남아야, 나중에 규제기관이 물었을 때 코드를 다시 읽지 않고 답할 수 있습니다. L0에서 L3까지의 자율도 등급과 격리 샌드박스 실행은 사번을 받은 에이전트에게 어디까지 허용할지를 사람이 매번 다시 정할 수 있게 하는 장치입니다. 승인을 붙일 자리와 뗄 자리를 워크플로마다 달리 잡을 수 있어야 한다는 뜻이기도 합니다.

병원과 금융처럼 폐쇄망이 전제인 곳에서는 같은 스킬과 정책을 온프렘 쿠버네티스 위에 그대로 올릴 수 있어야 합니다. 데이터가 나갈 수 없다면 기억도 나갈 수 없고, 기억이 못 나가면 그 기억을 다루는 실행 계층이 따라 들어와야 하니까요. GPU가 모자란 국면에서는 작업별로 모델을 갈아 끼우는 선택권이 곧 비용 방어선이 됩니다. 요약 한 줄에 최상위 모델을 부르지 않고, 판단이 필요한 구간에만 값비싼 추론을 배정하는 라우팅이 같은 카드 위에서 처리량을 늘립니다. 캐파를 늘릴 수 없는 시기에 쓸 수 있는 지렛대는 결국 실행 효율입니다.

기억을 어디에 둘지 고를 수 없는 플랫폼은 결국 그 기억을 맡긴 곳의 정책을 따라가게 됩니다. 오늘 두 발표가 함께 말해 주는 것은 그 선택지가 이제 막 열렸다는 사실입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

태그: agentops, 엔터프라이즈 AI, paxis, thakicloud

카테고리:

업데이트:

참고

화질 깎는 데 5천 원

 

30초짜리 480p 영상 한 편에 4달러 12센트, 그중 상당수가 화면을 일부러 거칠게 만드는 값이었습니다.