일하기 전에 멈춘 에이전트
글의 핵심 개념을 형상화했습니다.
먼저, 내부 테스트 자료에서
이야기는 출시 행사에서가 아니라 테스트 기록에서 시작하는 것이다. 로이터가 확인한 메타 내부 테스트 자료에는 개인 AI 에이전트 뮤즈가 일부 시험에서 작업 중간에 멈춘 기록이 있다. 민감정보가 노출된 기록도 있다. 메타는 출시 과정에서 보완책을 적용했다고 하지만 실환경 안정성과 개인정보 보호는 지금도 “미검증 과제”다.
가상의 위험이 아니다. 출시 전 테스트에서 실제로 나온 기록이다.
이 한 줄은 발표 행사 자체보다 많은 정보를 담고 있다. 왜 그런지 알기 위해서는, 먼저 뮤즈가 무엇인지 봐야 한다.
앱을 껐어도 일하는 AI
메타는 9월 8일(미국 현지시간) 뮤즈를 공개했다. 사용자가 앱을 닫은 뒤에도 백그라운드에서 일을 이어가는 개인 AI 에이전트. 이메일 발송, 여행 예약, 웹 양식 작성, 온라인 구매. 다단계 업무를 혼자 처리하고 사람의 판단이 필요한 순간에만 사용자에게 다시 찾아가는 구조라는 뜻이다. 이코노미사이언스 등 매체가 “상주형 AI”라고 부르는 것은 바로 이것인가. 거처를 둔 AI, 그런 셈이다.
의미는 앱 순위보다 크다. 그간 AI는 채팅창이라는 형태로 사용자에게 들어왔다. 질문하면 답을 하고 거기서 끝이었다. 이번에는 앱이 꺼져도 일이 진행한다는 것이다. 질문에 답하는 도우미와 과업을 넘겨받는 일꾼의 차이다.
그리고 시점이 중요하다. 이번 주 뉴스 필드는 다른 축으로 달리고 있는 셈이다. AI 개발의 속도 조절 논란, 초대형 데이터센터의 로드맵, 메모리 칩을 둘러싼 공방. 그 한가운데서 메타의 소비자 에이전트는 일상에 가장 가까운 신호이자, 다음 질문을 가장 직접적으로 가리키는 사례다.
가격은 무료다. 그 위에 유료 구독 두 단계가 있다. 파워가 월 20달러, 매็กซимум이 월 100달러. 결제는 쇼핑과 결제 보호 기능을 갖춘 스트라이프의 “링크”를 타고 쇼피파이 쇼페이와 원패스워드 연동도 예정되어 있다. 결제가 설계의 중심에 있다는 점은, 이 에이전트가 처음부터 사소한 행동을 하는 것이 아님을 보여준다.
시장 반응은 즉각적이었다. 센서타워 기준 미국 iOS 다운로드가 8만 3천 회를 넘어, 앱스토어 종합 2위에 올랐다. 발표 다음 날 4위에서 올라온 셈이다. 안드로이드는 생산성 카테고리 338위. 같은 날 메타 주가는 6% 상승했고 알파벳은 2% 하락했다. 자본시장도 이번 에이전트 공세를 AI 경쟁 재편의 변수로 읽은 것이다.
여기서 하나 더 짚어야 할 사실이 있다. 이번 발표는 메타가 소셜미디어 소비자 피해 관련 180억달러 규모의 미국 다수 주 합의금 지불을 결정한 지 2주가 채 안 된 시점이다. 그래서 업계는 이 승부의 최대 변수로 소비자의 “신뢰”를 꼽는다.
사람마다 PC 한 대, 수호자도 한 명
뮤즈의 핵심은 모델이 아니라 실행 환경이다. 메타는 이 환경을 “뮤즈 시큐어 VM”이라고 부른다. 브라우저와 저장공간을 갖춘 전용 가상 컴퓨터가 사용자별로 배정된다. 가장 쉬운 비유를 들면, 클라우드에 사람마다 AI 비서용 PC 한 대씩을 둔 셈이다. AI가 그 안에서 다단계 업무를 처리한다.
보안은 따로 둔 에이전트가 맡는다. 이름이 “센티넬”이다. 시스템 레벨에서 뮤즈와 분리되어 있으며 외부 서비스 접근과 민감 행동을 통제한다. 이메일 발송과 구매 같은 중요 행동은 사용자의 승인을 거치도록 설계되어 있다. 비밀번호와 결제정보는 뮤즈 자체가 직접 볼 수 없도록 분리되어 있다.
한 줄로 정리하면, 일하는 에이전트 하나, 그 옆의 수호자 하나, 그리고 그 사이를 가로지르는 승인 라인이다.
경쟁사들도 같은 전선으로 움직이고 있다. 오픈AI의 챗GPT 에이전트는 자체 가상 컴퓨터에서 웹 탐색과 코드 실행을 하고, 구글 제미나이는 클라우드에서 장시간 에이전트 작업을, 앤트로픽 클로드는 코딩과 전문업무 에이전트를 강화하고 있다. 세일즈포스의 선택은 한 수 더 과감하다. 9월 15일 샌프란시스코 드림포스에서 공개한 “AI포스”는 사용자가 CRM 화면을 열지 않아도, 사용 중인 에이전트가 화면 없이 플랫폼 전체 기능을 직접 호출하게 만든 것이다. 사람이 클릭하던 시스템이 에이전트가 부르는 대상이 되는 순간이다. AI 경쟁의 축은 “누가 더 정확하게 답하는가”에서, “누가 사용자의 일을 더 오래, 더 많이, 더 안전하게 대신하는가”로 이동하고 있다.
규제 산업에선 승인 라인이 이미 표준이다
실수 한 번의 대가가 큰 곳에서는 이 구조가 이미 상품이다. 앤트로픽은 9월 14일 금융 자문가용 “클로드 포 파이낸셜 어드바이저스”를 공개하고 세계 최대 자산운용사 블랙록의 포트폴리오 분석 기능 등 자산관리 스택을 클로드에 연결했다. 고객 미팅 준비, 포트폴리오 검토, 컴플라이언스 체크, 후속 문서 작성은 에이전트가 하는 일이다. 그러나 투자 추천, 고객 커뮤니케이션, 규제 대상 업무는 언제나 자문가의 검토와 승인을 거치도록 설계되어 있다. 기반이 된 키치세스 조사는 자문가의 시간 중 고객 미팅에 쓰는 비중이 6분의 1에 불과하다는 내용이다. 준비와 문서라는 반복 작업을 에이전트가 먹고, 사람은 승인 라인에 선다는 방향이다.
한국 기업의 간극은 여기서 더 크다. 국내에서는 커스터디안, CRM, 포트폴리오 분석이 여러 벤더로 쫙게 나뉘어 있어 커넥터 계층에 대한 수요가 더 클 수밖에 없다. 여기에 금융 데이터의 국외 이전 제한과 환각, 책임 소재 문제는 해외 모델의 직접 도입을 어렵게 만든다. 온프레미스 배포와 감사 트레일이 도입의 전제조건이 되는 것이다. 클로드와 GPT, 엑사원 등 멀티모델을 병행 운용하는 대기업의 표준 전략이 굳어진 지금, 특정 벤더에 묶이지 않고 여러 모델에 유연하게 연결되는 인프라는 선택이 아니라 필수다.
메시지는 동일하다. 에이전트에게 일하게 하고 사람은 승인 라인에 선다. 소비자 제품도 이제 이 설계로 수렴하고 있는데, 그 이유는 정서가 아니라 실패의 비용 때문이다.
소비자 버전에는 없는 24시간 시계
문제는 출시 열기가 식은 뒤에 온다. 상주형이라는 말은 백그라운드에서 오래 일한다는 뜻이다. 이메일 한 통만이라면 별일 아니다. 구매, 예약, 문서 작성 같은 작업이 동시에 도는 순간, 실패의 모양도 함께 늘어난다. 그리고 모든 행동에는 감사가 따른다. 수호자가 한 행동을 놓치거나, 에이전트가 작업 중간에 멈추면 누가 그 일을 잡아내고 어떻게 증명할 수 있는가.
백그라운드에서 계속 쌓이는 또 다른 계산이 있다. 장시간 실행은 결국 토큰 비용의 문제인 셈이다. 에이전트가 하루 몇 시간씩 일한다면, 추론 비용은 매일 복리로 불어난다. 개인 수준에서 실수 한 번의 대가는 몇 달러. 기업 수준에서는 승인 없는 구매 한 건, 고객 정보 유출 한 건, 놓친 작업 한 건이 곧 컴플라이언스 사건이며 비용은 경영의 문제다. 수호자 에이전트가 경계를 지키지만 그 수호자 자체의 판단이 틀렸다면 누구에게 리뷰되는가. 기업에서 이 질문은 기술이 아니라 법적 성격이다.
메타의 답은 개인에게는 “사람마다 전용 PC 하나”였다. 기업의 답은 애드온이 아니라, 거버넌스가 실행 환경 자체로 들어간 시스템이어야 하는 것이다. 정확히 이 지점이 기업들이 미뤄둔 질문인 셈이다. 메타는 개인에게 전용 PC 하나, 수호자 하나, 중요 동작 승인이라는 묶음을 상품으로 내밀었고 기업 안에는 같은 질문이 이미 대기하고 있다. 달라진 것은 규모와 주체, 그리고 책임의 무게일 뿐이다.
기업 버전으로 만들려면
이 아키텍처를 기업으로 옮긴다면, 목록은 길지 않다. 네 가지. 첫째, 격리. 에이전트 하나하나의 실행이 남의 데이터나 세션에 닿지 않아야 한다. 사람마다 전용 PC 한 대는 소비자의 답이고 기업에서는 같은 보장을 테넌트 단위로 요구하게 된다. 둘째, 승인. 중요 행동은 사람이 보는 라인을 거쳐야 하며 무엇을 승인으로 둘지는 워크플로마다 다르게 정할 수 있어야 한다. 셋째, 감사. 모든 행동은 꺼내 보여줄 수 있는 기록을 갖춰야 한다. 남기는 기록이 아니라, 언제든 꺼내어 대조할 수 있는 기록이다. 넷째, 비용. 상주형 일은 백그라운드에서 길게 도므로, 추론 청구서가 예측 가능해야 한다.
여기서 눈에 띄는 것은, 네 가지 모두 모델 바깥에 놓인 항목이라는 뜻이다. 모델이 아무리 능력이 있어도, 이 네 가지가 갖춰지지 않으면 기업의 운영 환경에 넣을 수 없다. 이것이 문제의 구조이고 메타의 소비자 제품과 기업의 플랫폼이 경쟁 관계가 아니라 다른 층에 서 있는 이유이기도 하다.
기업 버전의 렌즈
이 지점에서 ThakiCloud의 Paxis를 렌즈로 삼을 수 있다. Paxis는 ThakiCloud의 Agent-Native Cloud이며 정식 제품(v1.1 GA)이다. 메타가 소비자 제품으로 보여준 구성을 Paxis는 기업에게 일급 리소스로 제공한다. Skills, Tools, Policies, Audit Logs가 부가 기능이 아니라 플랫폼의 시민인 셈이다. 자율도 L0에서 L3가 에이전트가 혼자 할 수 있는 범위를 정하고 그 경계마다 정책 게이트가 서 있으며 모든 행동은 감사 로그에 기록된다. 실행은 격리 샌드박스에서 벌어지고, 시스템은 MCP 커넥터와 스킬 마켓을 통해 호출 가능한 대상이 된다. 데이터 주권을 요구하는 기업에는 소버린, 온프렘 K8s(ai-platform) 배포가 있고, 작업별로 모델을 골라내는 CostRouter가 장시간 백그라운드 실행의 비용을 좌우한다.
네 가지 통증으로 다시 읽으면 더 분명하다. 감사. 감사 로그와 승인 라인이 기록을 보여달라는 질문에 답한다. 주권. 온프렘, 소버린 배포가 데이터와 실행이 어디에 머무느냐는 질문에 답한다. 안전한 실행. 샌드박스와 정책 게이트가 무엇을 터치할 수 있는가라는 질문에 답한다. 비용. 작업별 모델 선택이 얼마나 오래 일하게 할 것인가라는 질문에 답하는 것이다. 뮤즈의 내부 테스트가 가리킨 통증, 멈춤과 유출과 미검증 안정성은, 이 네 가지가 겨냥하는 지점과 정확히 겹친다.
메타가 개인에게 준 것은 형태였다. 기업이 필요한 것은 그 형태를 증명하는 장치라는 뜻이다.
앱을 껐는데 AI는 일하고 있었다. 이번 주의 이야기였다. 같은 주, AI 업계 수장들 사이에서는 개발 속도를 늦출 것인가를 놓고 논쟁이 붙었고 국내에서는 초대형 데이터센터의 로드맵이 그려지고 있다. 이 모든 논쟁은 결국 같은 질문을 향해 있다. 기업이 묻는 이야기는 다르지 않은 셈이다. 그 에이전트가 어디서, 무엇을, 얼마만큼 터치할 수 있으며, 실패했을 때 그 기록을 꺼내 보일 수 있는가. 상주형 AI는 이미 형태를 증명했다. 남은 것은 혁신이 아니라 공학이다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.