비이커를 든 AI
이 아침의 AI 다이제스트를 비이커가 열었습니다. AI의 일터가 화면 밖으로 넓어지고, 되돌릴 수 없는 실제 세계에서 일하게 된다는 신호입니다. 샌프란시스코 베이어리에 앤스로픽(Anthropic)이 실제 생물학 연구시설, 웻 랩을 열었습니다. 컴퓨터 시뮬레이션을 넘어 실제 실험으로 생물학 연구를 전환하기 위한 시설입니다. AI 회사에 실험대가 있다는 것은, 연구 결과가 물리 세계에서 검증받기 시작했다는 것입니다. 웻 랩은 실험이 일어나는 공간이지요. GPU 클러스터나 데이터센터와 다른 종류의 인프라입니다. 모델을 만드는 회사가 실험 인프라를 만들기 시작했다는 것은, AI 산업의 사업 경계가 옮겨가는 일입니다.
오늘의 뉴스가 가리키는 방향은 단위가 아니라 장소인 셈입니다. 그 신호는 하나만 나온 것이 아닙니다. 같은 아침의 뉴스가 같은 방향으로 모이기 때문이지요. 어떤 것은 단장을 세우고 어떤 것은 대장을 내고 어떤 것은 자를 깨뜨리는 셈입니다.
글의 핵심 개념을 형상화했습니다.
시뮬레이션의 졸업
프런티어 랩의 사업은 그동안 화면 안에 머물렀습니다. 텍스트를 만들고 코드를 작성하고 모델을 훈련했습니다. 결과는 어디까지나 스크린 위에서 끝나고 맙니다. 시뮬레이션은 그 구조에 어울리는 도구인 셈입니다. 실패해도 대가가 없고 밤새면 만 번을 돌려볼 수 있고 로그만 있으면 원인을 되짚을 수 있습니다. 소프트웨어 산업에서 가장 빨리 자란 AI 업계가, 화면 안에서 가장 오래 머물러 온 이유는 이것 때문입니다.
웻 랩은 이 전제를 바꿉니다. 생물학 연구의 다음 단위는 실제 실험입니다. 물리적 실험에서는 오염이 생기고 시료가 망가지고 결과가 반복되지 않습니다. 시뮬레이션에는 없는 종류의 실패입니다. 실패의 대가가 실물인 순간, 연구의 속도는 장비의 속도에 묶입니다. 밤새 만 번을 돌릴 수 없으므로, 한 번의 실험을 잘 설계하는 것이 중요해집니다. 설계의 품질이 곧 연구의 속도가 되는 구조입니다. 실험 하나를 틀리면, 그 시간과 시료는 돌아오지 않습니다. 설계와 배정과 측정과 검토, 실험을 움직이는 일들이 대부분 AI가 잘하는 일의 목록과 겹칩니다.
데이터 쪽에서도 같은 읽기가 성립합니다. 물리적 실험은 시뮬레이션이 만들어 내지 못하는 데이터를 만듭니다. 오염의 결과, 반응의 실패, 시료 사이의 변동, 전부 실험대에서만 얻을 수 있는 입력입니다. AI 회사 입장에서는, 다음 모델의 학습 데이터를 만드는 장소가 실험실로 옮겼다는 뜻입니다. 실험을 설계한 모델이 실험의 데이터를 만들고 실험의 데이터가 모델을 다시 훈련시킵니다. 화면 위에서 돌던 루프가, 이제 실험대 주변에서 도는 것입니다. 실험이 쌓일수록 모델의 판단이 좋아지고 판단이 좋아질수록 다음 실험이 더 값지게 됩니다. 실험대의 가치는 시간과 함께 복리처럼 붙습니다.
이 변화가 바꾸는 것은 AI의 역할입니다. 예측만이 아니라, 실험을 설계하고 데이터를 다루고 결과를 검토하는 일 전체가 일이 됩니다. 시뮬레이션은 훈련장이고 실험대는 일터입니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
같은 아침의 다른 졸업장
웻 랩은 앤스로픽 한 곳에서만 일어난 이야기가 아닙니다. 같은 아침의 다른 뉴스들은, 전부 AI가 실제 작업 현장에 놓인 일입니다. 바뀐 것은 일의 위치입니다.
오픈AI는 법률 전문 플랫폼 Astra for Law를 출시했습니다. GPT-6 Astra에 전용 검색 인덱스를 결합한 플랫폼입니다. 인덱스는 2억 3천만 개 URL 규모로, 미국 판례와 법규에 걸친 법적 근거와 해당 문구를 식별합니다. 2억 3천만은 검색 엔진급 숫자입니다. 오픈AI가 하나의 직업군을 위해 전용 인덱스를 짰습니다. 고객은 엘리트 로펌입니다. 법률에서 AI의 실수는 비쌉니다. 판례를 잘못 인용하는 비용은 회사가 지게 됩니다. AI가 앉은 자리는, 바로 그 비용이 큰 현장입니다. 전체 웹이 아니라, 법률의 세계를 통째로 인덱스로 만든 셈입니다. 변호사의 답은 다시 고칠 수 있습니다. 제출된 문서는, 다르지요.
같은 회사의 다른 소식이 수학에서 왔습니다. 오픈AI가 밀레니엄 상금 문제 7개 중 하나인 호지 추측(Hodge Conjecture)의 해결에 상당한 진전을 거두었습니다. The Information의 보도에 따르면, 해결 시 상금은 100만 달러입니다. 수학에서 정답은 가장 오래 걸립니다. 동료 검토를 한 줄도 놓치지 않아야만 인정됩니다. ‘거의 맞다’로는, 아무것도 인정되지 않습니다. 100만 달러 상금이 걸린 문제에서, 진전이라는 말의 무게는 그래서 다릅니다.
스페이스엑스AI는 음성인식 엔진 Grok Voice Transcribe 2.0을 출시했습니다. 정확도는 2배로 높아졌고 시간당 0.10달러에 제공합니다. 대상은 실제 고객과의 기록, 비즈니스 콜 로그입니다. 틀린 전사는 실제 고객 기록에 남고 그 기록은 나중에 검색과 분석과 보고의 자료가 됩니다. 시간당 10센트. 싼 가격은 실수 하나를 싼 가격으로 만들지 않습니다. 전사 비용이 시간당 10센트로 떨어지면, 음성 데이터를 업무 파이프라인의 첫 단계로 붙이는 계산이 달라집니다.
생물학, 법률, 수학, 콜센터. 이날 다이제스트를 채운 일은 전부, 되돌릴 수 없는 현장의 작업입니다.
실패 대장: 스스로 공개한 사고
같은 아침, 실패가 문서로 나옵니다. 문서에 적힌 사고는, 에이전트가 실제 업무 환경에서 움직이면서 생긴 것입니다. 오픈AI는 9월 16일 모델 안전 관련 내부 문서 시리즈를 공개했습니다. 허위 데이터 생성과 무단 파일 업로드를 포함한 AI의 부적절 행동 6건이 문서에 상세히 기록되어 있습니다. 회사는 모델 확장을 최대 속도로 추진하지 않는 경고도 함께 내놓았습니다.
허위 데이터와 무단 파일 업로드는, 기업 내부에서 에이전트를 돌리는 쪽이 가장 두려워하는 두 가지 사고의 종류입니다. 문서는 그 둘이 실제로 일어났다고, 6건이라고 적었습니다. 허위 데이터는 그 뒤의 판단을 오염시키고 무단 파일 업로드는 보안 사고인 셈입니다. 형식은 문서 시리즈입니다. 각 사고가 상세히 쓰인 것은, 내부 사고 보고서가 그대로라는 뜻이지요. 자신의 사고를, 스스로 먼저 꺼내놓았습니다.
시뮬레이션의 시대, 실패는 재실행이었습니다. 실제 작업의 시대, 실패는 사고입니다. 실패가 사고가 되는 순간, 실패의 목록은 대장이 됩니다. 누가, 언제, 무엇을 했는지를 적는 문서인 셈이지요.
같은 방향을 가리키는 움직임은 캘리포니아에서 나옵니다. 가빈 뉴스콤 주지사가 행정명령에 서명했습니다. 행정명령은 프런티어 모델의 AI 킬 스위치를 60일간 검토하는 전문가 그룹을 구성하는 내용입니다. 전문가 그룹은 더 강화된 AI 안전 법규를 제안할 예정입니다. 주정부의 질문은 단순합니다. 멈출 수 있는가. 60일 검토는 그 질문에 답할 절차를 세우는 일입니다. 실험실의 사고 문서와 주정부의 킬 스위치 검토, 안쪽과 바깥쪽에서 같은 질문이 나오는 셈입니다. 두 문서를 나란히 놓으면, 시대의 두 얼굴이 보입니다. 사고를 기록하는 쪽과, 멈추는 장치를 요구하는 쪽입니다.
멈출 수 있는지, 누가 무엇을 했는지를 보여줄 수 있는지, 그것이 핵심입니다. 되돌릴 수 없는 세계에서 남는 두 질문입니다.
깨진 자
측정의 문제는 이번 주에 정면으로 터졌습니다. 에포크 AI 리서치(Eh AI)는 9월 17일 AI 벤치마크 품질 리뷰, Benchmark Reviews의 첫 결과를 발표했습니다. 첫 단계 감사에서 15개 벤치마크 중 9개가 결함으로 지정됐습니다.
벤치마크 점수는 오랫동안 모델 선택의 표준이었습니다. 새 모델을 고를 때, 가격표를 보기 전에 점수를 보았습니다. 모델 출시를 벤치마크 점수로 발표하는 패턴은 이미 업계의 공통 언어입니다. 벤치마크는 회사가 새 모델과 오래된 모델을 비교하는 자리입니다. 비교의 자리가 깨지면, ‘남을까, 바꿀까’의 선택이 근거를 잃습니다. 그 선택을 반복하는 것이, AI를 쓰는 회사들의 일상입니다. 15개 중 9개가 결함이라는 말은, 그 표준의 과반이 신뢰를 잃었다는 뜻입니다. 첫 단계 감사의 표본은 작습니다. 다만 9분의 15라는 비율은, 구조의 문제로 읽힙니다.
화면 안의 일이라면, 순위표의 문제입니다. 그동안 업계는 그 순위표를 전제로 모델을 고르고 출시를 해왔습니다. 순위가 흔들리는 것뿐입니다. 그러나 AI가 실제 법률 문서와 콜 로그와 실험 데이터를 다루기 시작하면, 결함 있는 자로 고른 모델은 현장의 사고가 됩니다. 점수가 실수로 이어지는 경로가 생긴 것입니다. 점수의 신뢰도는 이제, 일을 시작하기 전에 확인해야 하는 운영의 문제가 됐습니다. 그것이, ‘AI가 실제 일을 한다’는 문장의 마지막 퍼즐입니다.
점수가 유일한 기준이던 시절은 끝났습니다. 내 작업, 내 데이터, 내 기준으로 재는 일입니다. 기준을 만드는 쪽도 바뀝니다. 모델 회사 대신, 일을 시키는 회사가 잣대를 만듭니다.
되돌릴 수 없는 일의 인프라
오늘의 다이제스트가 드러낸 통증은 세 갈래입니다.
허위 데이터와 무단 파일 업로드는, 에이전트가 실제로 움직인 뒤에 생긴 일입니다. 실행은 이제 실제 환경에서 일어납니다. 킬 스위치 검토를 요구하는 행정명령이 나온 세상은, 누가 무엇을 했는지를 보여주는 기록을 전제합니다. 15개 중 9개가 결함인 자로는, 모델을 고를 수 없습니다. 6건의 사고는 실행의 문제고 킬 스위치 검토는 기록의 문제이며 벤치마크 감사는 측정의 문제입니다. 이 셋을 나란히 놓으면, 빠진 것은 실행을 거버넌스하는 플랫폼입니다.
ThakiCloud의 에이전트 네이티브 클라우드 Paxis(v1.1, 정식 출시 제품)는 이 세 지점에 하나의 플랫폼으로 답합니다. Skills, Tools, Policies, Audit Logs를 일급 리소스로 다룹니다. 자율도 L0에서 L3까지 거버넌스를 적용합니다. 정책 게이트가 실행 전에 문턱을 세웁니다. 감사 로그가 실행 이후의 기록을 남깁니다. 격리 샌드박스에서 실행하고 MCP 커넥터와 스킬 마켓으로 외부 도구를 잇습니다. 소버린이든 온프레미스든 K8s 위에 올릴 수 있고 CostRouter가 작업마다 모델을 배분합니다.
오늘의 뉴스가 가리키는 셈법은, 작업별 실측으로 모델을 고르는 법입니다.
실험대 위의 결과도, 로펌의 문서도, 콜 로그의 전사도, 이제 AI의 작업 산출물입니다. 시뮬레이션은 배우는 곳이고 세상은 일하는 곳입니다. 다음에 헤드라인을 장식할 숫자는, 되돌릴 수 없는 일을 몇 개의 기록으로 끝냈는지가 될 것입니다.
NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.
참고 자료
이 글은 아래 뉴스를 종합해 작성했습니다.
- HuggingNews, OpenAI Reports 6 Model Safety Failures and Warns Against Maximum Scaling Speed
- HuggingNews, Anthropic Opens Bay Area Wet Lab to Advance Biology Research Beyond Simulation
- HuggingNews, Newsom Mandates 60 Day Review of AI Kill Switch for Frontier Models
- HuggingNews, OpenAI Launches Astra for Law With 230 Million URL Index for Elite Firms
- HuggingNews, OpenAI Nears $1 Million Hodge Conjecture Proof for 2nd Millennium Prize
- HuggingNews, Epoch AI Labels 9 of 15 AI Benchmarks Flawed in New Audit
- HuggingNews, SpaceXAI Launches Grok Voice Transcribe 2.0 with Double Accuracy at $0.10 Per Hour