지갑과 함께 나온 목줄
에이전트를 프로덕션에 올리는 팀이라면 이번 주 한 장면을 두 번 봐야 합니다. xAI의 Grok 봇이 링크를 통해 온라인 구매를 처리했고, 결제는 Stripe 결제 도구의 일회용 보안 카드로 들어갔습니다. 미국 사용자는 각 지출마다 승인을 눌러야 합니다. 에이전트 커머스의 첫 걸음은 이 정도 크기입니다. 걸음이 작다는 평가가 먼저 나오지만, 방향이 새롭다는 점은 그 평가를 받기 전에 확인할 가치가 있습니다.
이 장면을 두 번 보라고 하는 이유는, 에이전트의 출력이 처음으로 세계의 상태를 바꿨기 때문입니다. 답변은 사라집니다. 생성된 문서는 저장되지만 구매는 돈의 위치를 바꿉니다. 돈이 한 곳에서 다른 곳으로 이동하면, 그 이동은 되돌리고 확인하고 기록하는 대상이 됩니다. 에이전트의 출력이 ‘텍스트’에서 ‘이벤트’로 이동합니다. 이벤트에는 타임스탬프가 있고 지불자가 있고 승인자가 있습니다. 틀린 텍스트는 삭제하면 됩니다. 틀린 이벤트는 조사해야 합니다. 다음부터는 에이전트가 얼마나 잘 일하는가보다, 돈을 어떻게 쓰고 누가 승인하고 그 지출이 어떻게 기록되는가가 먼저 묻힙니다.
글의 핵심 개념을 형상화했습니다.
지갑과 함께 나온 것
Grok 구매에서 눈여겨볼 것은 ‘어떻게 샀다’입니다. 일회용 카드와 지출별 승인은 둘 다 목줄입니다.
일회용 카드는 결제 수단이 쓰이면 사라진다는 뜻입니다. 에이전트가 웹 상거래를 처리할 때, 그 경로 위에는 평소보다 많은 비밀키와 토큰이 돕니다. 장기간 유효한 결제 수단이 그 경로에 머물러 있으면, 한 번의 유출이 반복된 도용으로 이어집니다. 일회용 구조는 그 노출 창을 한 구매의 길이로 줄입니다. 그 수단이 유출돼도, 다음 구매에서는 다시 쓸 수 없습니다.
지출별 승인은 사람 한 명의 버튼을 매 지출의 순간에 요구합니다. 관리장치는 액션 뒤에 붙지 않습니다. 장치는 액션의 인터페이스 안쪽에 있습니다. 승인 없이는 구매 자체가 일어나지 않는 구조입니다. 목줄이 액션과 함께 나온 것입니다.
이 구조에는 분업이 하나 있습니다. 에이전트가 정하는 것은 ‘무엇을 살까’이고 사람이 정하는 것은 ‘살 것인가’입니다. 선택은 에이전트에 남고 지불은 사람으로 돌아옵니다. 이는 목줄을 선택의 목줄과 지불의 목줄로 나누는 설계입니다.
반복 결제가 등장하면, 이 두 장치의 한계가 드러납니다. 월간 구독이나 자동 차금은 반복되는 구매입니다. 일회용 카드는 반복을 전제로 하지 않는 구조이고 지출별 승인은 매 반복에 사람의 버튼을 요구합니다. 구매가 반복되는 순간, 목줄의 설계가 다시 열립니다.
첫 걸음은 작았습니다. 다만 이 걸음이 정한 모양은 작지 않습니다. 에이전트가 돈을 쓰는 모든 다음 장면에, 이 첫 장면의 두 장치가 기본값으로 들어 있습니다. 다음부터는 모든 에이전트 액션의 기본 질문이 ‘이 액션의 목줄은 무엇인가’가 됩니다.
에이전트의 또 다른 두 기관
Astra는 액션 기관의 다른 방향을 보여줬습니다. OpenAI가 시연한 차세대 모델 Astra는 단일 작업을 수일에서 수주간 수행하도록 설계된 연속 에이전트입니다. 보도에 따르면 새로운 것을 발명한 최초의 모델이기도 합니다. 이 문장은 검증 문제를 한 단계 어렵게 만듭니다. 에이전트의 출력이 잘 알려진 작업이라면 정답을 놓고 비교하면 됩니다. 출력이 ‘새로운 것’이라면 비교할 정답이 없습니다. 발명하는 에이전트는 채점지가 없는 것과 같습니다. 목줄의 재료가 기록으로 만들어져야 합니다. 핵심은 ‘연속’이라는 말에 있습니다. 같은 작업에 수 주간 남는 구조입니다. 주간 실행은 에이전트 평가의 기준도 바꿉니다. 수 주간 유지되는 상태의 품질을 재게 됩니다.
체력이 길어지면 두 가지가 함께 길어집니다. 하나는 비용입니다. 수 주간 실행은 수 주간 서빙을 의미하고 서빙이 멈추면 작업도 멈춥니다. 다른 하나는 노출입니다. 수 주간 실행은 수 주간 그 실행 환경에 머무는 것이며, 머무는 동안에는 그 환경의 모든 사고에 열려 있습니다. 주간 실행은 동시에 주간 서빙의 문제이기도 합니다. 같은 작업을 돌리는 동안에도, 그 작업을 어떤 모델로 서빙할지가 비용의 변수가 됩니다.
Claude는 또 다른 기관을 보여줬습니다. 최초의 자율 AI 정렬 테스트에서 Claude는 28명의 인간 연구자를 앞섰습니다. 모델 성능을 저하시키지 않은 채 10개의 정렬 실패에 대한 완화책을 자율적으로 찾아냈습니다. 하나는 체력이고 하나는 자기 교정입니다. 에이전트는 지시를 실행하는 것에서, 상태를 유지하고 스스로 고치는 것으로 이동했습니다.
성능을 저하시키지 않은 채 완화책을 찾았다는 점은 따로 읽어야 합니다. 정렬 완화는 성능을 낮추지 않습니다. 바꾸는 쪽은 행동입니다. 행동이 바뀌면, 그 바뀜을 실행 기록에서 증명해야 합니다. 자기 교정은 실행의 결정론을 바꿉니다. 사람이 고치면 그 사람만큼만 바뀝니다. 에이전트가 스스로 고치면, 바뀐 것의 목록이 실행 기록 안쪽에서 결정됩니다. 수 주간 실행이 사흘째 어딘가에서 흔들렸다면, 답은 그 순간까지의 전체 경로 기록이 있을 때만 나옵니다. 자율 교정이 모델의 행동을 바꿨다면, 무엇이 언제 바뀐 증거가 필요합니다. 기관이 커질수록 되짚는 비용이 함께 커집니다. 그 비용은 결국 목줄의 두께로 결정됩니다.
반대편에 나온 울타리
다이제스트의 반대편에는 울타리가 나왔습니다. 실행 전체를 감는, 더 큰 단위입니다.
Altman은 허깅페이스 사태가 OpenAI의 학습 중단을 불러왔다고 밝혔습니다. 향후 OpenAI가 AI 개발 속도 조절에 나설 수 있다는 언급도 함께 나왔습니다. 같은 사태에서 허깅페이스는, OpenAI가 문제의 존재를 인식하기보다 일주여일 전부터 공격 격리에 착수했다고 말했습니다. 여기 울타리는 신뢰의 층입니다. 모델이 의존하는 플랫폼이 사고가 되면, 모델 제작사조차 학습을 중단합니다. 사고가 실행 층에서 학습 층까지 전파됐습니다. 사고는 플랫폼에서는 보였고 모델 제작사에서는 일주일 넘게 보이지 않았습니다. 누가 누구를 보는가가 울타리의 질문이 됩니다. 실행의 속도를 신뢰의 속도에 맞추겠다는 판단이, 학습 중단이라는 형태로 나온 것입니다. 에이전트가 실행되는 환경과 모델이 학습되는 환경은 같은 줄로 묶여 있습니다.
X는 중국과 연결된 약 20만 개의 비인증 계정 네트워크를 확인했습니다. 이 봇팜은 미국 AI 데이터센터를 표적으로 삼았고, 그중 수백 개 계정은 미국 AI와 에너지를 둘러싼 공개 논쟁 조작에 쓰였습니다. 여기 울타리는 물리적 환경의 층입니다. 주목할 것은 공격 대상이 모델 이야기라는 점입니다. 조작의 대상이 에너지와 데이터센터를 둘러싼 공개 논쟁인 까닭에, 걸리는 것은 실행 자원에 대한 자본의 판단입니다. 에이전트가 일하는 건물, 그리고 그 건물이 쓰는 전력에 대한 논쟁까지 조직된 공격의 표적이 됐습니다. 실행 자원의 공급을 정하는 이야기가 공격 대상이 되면, 자원의 공급 자체가 흔들립니다.
둘을 나란히 하면 주간 에이전트의 노출 표면이 보입니다. 목줄이 액션 하나를 감는 장치라면, 울타리는 그 액션이 머무는 환경을 감는 장치입니다. 수 주간 연속으로 일하는 에이전트는 플랫폼 사고와 물리적 환경 공격에 수 주간 노출돼 있습니다. 목줄은 한 액션의 크기이고 울타리는 한 주의 크기입니다.
집안으로 들어온 울타리
다이제스트의 마지막 이야기는 울타리의 위치를 바꿉니다. Tencent의 Hy4 프리뷰 모델이 로컬 구동 크기를 1.5TB에서 200GiB로 줄였습니다. 사용자는 이제 WorkBuddy를 통해 Hy4 프리뷰에 접근할 수 있습니다.
200GiB가 된 모델은 이 통로를 통해 코딩 작업과 복잡한 결과물 생성까지 연결됩니다. 로컬 구동과 에이전트 작업이 한 줄로 이어진 것입니다. 코딩 작업뿐 아니라 복잡한 결과물 생성까지 연결된다는 점은, 에이전트에게 맡길 수 있는 일의 범위를 다시 그리는 계기가 됩니다. 1.5TB에서 200GiB, 크기는 대략 일곱 분의 하나로 줄었습니다. 같은 집 안에서도 방이 바뀌는 차이입니다. 코딩 작업을 하는 모델이 200GiB에 들어가면, 울타리는 더 이상 벤더의 집에서 그려질 필요가 없습니다. 지갑, 목줄, 감사, 실행 위치를 모두 자기 경계 안에 놓을 수 있습니다. 울타리는 이제 설치하는 것이 됩니다. 실행이 외부 API에서 경계 안으로 이동하면, 울타리는 안전의 문제에서 비용과 데이터의 문제로도 이동합니다.
주간 에이전트 이야기의 마지막 조각이 여기에 왔습니다. 체력과 자기 교정, 결제와 승인, 감사 기록, 실행 장소. 이 모든 것이 한자리에 모이면 ‘어디에서 돌리나’의 답은 구조 쪽으로 기울어집니다.
목줄이 리소스가 되는 곳
이 주 뉴스가 흩뿌린 목줄은 부속품이 아닙니다. 관리해야 할 리소스입니다. Paxis는 ThakiCloud의 Agent-Native Cloud, 정식 제품 v1.1 GA입니다. Skills, Tools, Policies, Audit Logs를 일급 리소스로 다루는 셈입니다.
목줄은 능력 위에 놓인 구조의 문제입니다. Paxis가 Skills, Tools, Policies, Audit Logs를 일급 리소스로 다루는 것도 같은 이유에서입니다. 대응은 직접적입니다. 지출별 승인은 정책 게이트입니다. 자율도 L0에서 L3은 그 게이트의 단계이고 에이전트에게 얼마나 많은 일을 혼자 시킬지를 정하는 눈금입니다. 일회용 카드와 최소 수단은 격리 샌드박스 실행의 모양입니다. 에이전트는 분리된 공간에서, 쓰이면 사라지는 수단을 쥐고 일합니다. Astra의 주간 실행은 감사 로그의 문제입니다. 여기 필요한 것은 며칠간의 경로를 다시 그릴 수 있는 기록입니다. 정책이 목줄이라면, 감사 로그는 그 목줄이 실제로 매여 있었음을 보여주는 기록입니다. HF 사태 이후의 신뢰 울타리와 데이터센터 표적 공격은 소버린과 온프레미스 K8s 배포가 존재하는 이유입니다. 실행 환경을 경계 안으로 그리면, 제3자 플랫폼 노출이 결정이 됩니다. 200GiB급 로컬 모델과 넓어지는 후보 풀은 MCP 커넥터와 스킬 마켓으로 들어옵니다. CostRouter는 작업마다 모델을 고르는 것입니다. 고를 모델이 많아질수록, 어떤 작업에 어떤 모델을 붙이느냐가 실행 비용의 레버가 됩니다. CostRouter는 그 선택을 정책으로 만듭니다.
에이전트를 실행 환경에 올리는 팀에게, 이번 주는 질문이 바뀐 주입니다. 질문이 ‘무엇을 할 수 있는가’에서 ‘어떤 목줄 아래에서, 어떤 기록으로’로 이동합니다. 이 주 지갑의 크기는 아직 작습니다. 그런데 이 지갑이 올린 질문은 큽니다. 지갑이 커지는 속도는 모델의 성능만으로 결정되지 않습니다. 목줄의 두께가 먼저 결정됩니다. 에이전트가 무엇을 할 수 있는가, 어떤 목줄 아래에서, 사후에 그 경로를 다시 그릴 수 있는가. 목줄은 실행의 일부입니다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.
- HuggingNews, Grok Bot Executes Online Purchases via Link in First Push Into Agent Commerce
- HuggingNews, OpenAI Demos Astra AI That Runs for Weeks, First Model to Invent New Things
- HuggingNews, Claude Beats 28 Human Researchers in First Autonomous AI Alignment Test
- HuggingNews, Altman Says OpenAI Paused Training After Hugging Face Incident and May Pace AI Development
- HuggingNews, X Uncovers 200,000 Account Chinese Bot Farm Targeting US AI Data Centers
- HuggingNews, Tencent Hy4 Preview Drops to 200GiB for Local Run and Hits WorkBuddy