반도체에는 원산지 증명서가 있고, 모델에는 없습니다 개념을 형상화한 이미지 글의 핵심 개념을 형상화했습니다.

성능을 묻지 않은 경고

임종인 숭실대 AI위원회 위원장이 국가대표 AI 파운데이션 모델, 이른바 독파모를 두고 저작권법 위반 소지를 경고했습니다. 뉴스1이 전한 이 지적에서 눈에 띄는 대목은 성능을 전혀 문제 삼지 않았다는 점입니다. 얼마나 똑똑한지, 벤치마크가 몇 점인지는 논점 밖이었습니다. 이 모델이 무엇으로 만들어졌는지 증명할 수 있느냐를 물었습니다.

쟁점은 증류입니다. 해외 상용 모델의 출력을 학습 데이터로 끌어다 쓰는 방식인데, 상용 AI 서비스의 이용약관에는 대개 증류 목적 사용을 금지하는 조항이 들어 있습니다. 약관을 어기면 저작권 문제 이전에 계약 분쟁이 먼저 생깁니다. 앤트로픽은 지난 2월 중국 AI 기업이 약 2만4000개 계정으로 1600만 건이 넘는 대화를 만들어 자사 모델 학습에 무단으로 썼다고 주장했고, 오픈AI도 비슷한 시도를 문제 삼은 바 있습니다. 프런티어 모델 포럼을 통해 탐지 정보를 공유하는 단계까지 왔으니 단속은 이미 선언이 아니라 실행 국면에 들어섰습니다.

독파모는 2027년까지 약 5300억 원을 투입해 글로벌 최상위 모델의 95% 이상 성능을 확보하겠다는 국가 사업입니다. 6개월 단위 중간평가에서 팀이 탈락하는 구조라 성능 압박이 상당합니다. 빠르고 싸게 점수를 올리는 길이 눈앞에 있는데 그 길의 적법성이 불투명하다면, 완성된 모델의 수출이나 국제 협력에서 뒤늦게 발목이 잡힙니다. 최악의 경우 API 접근이 끊기거나 법적 조치의 대상이 될 수도 있습니다. 임 위원장이 삼성전자와 SK하이닉스의 반도체 지위를 지렛대 삼아 미국과 선제 협상에 나서자고 제안한 배경도 여기에 있습니다. 사후에 결백을 입증할 방법이 마땅치 않으니 사전에 권리를 사두자는 이야기입니다.

같은 날, 반도체는 정반대로 움직였습니다

흥미로운 대비가 같은 날 뉴스에 함께 실렸습니다. SK하이닉스는 오는 27일 미국 인디애나주 웨스트라피엣에서 첨단 패키징 팹 착공식을 엽니다. 투자액은 38억7000만 달러, 우리 돈으로 약 5조5000억 원입니다. 미국 정부는 반도체법에 따라 최대 4억5800만 달러의 직접 보조금과 최대 5억 달러의 대출을 지원하고, 2028년 하반기 가동과 직접고용 1000명 이상이 계획에 명시돼 있습니다. 미국 내 첫 HBM 패키징 라인이라는 점에서 후공정 판도를 흔들 사례로도 읽힙니다.

이 숫자들의 공통점은 전부 서류에 적혀 있다는 것입니다. 어디서 만드는지가 보조금의 조건이고, 언제 가동하는지가 계약의 조건이며, 몇 명을 고용하는지가 인허가의 조건입니다. HBM 하나가 어느 라인에서 나와 어느 클러스터로 들어갔는지는 원산지와 공급망 문서로 따라갈 수 있습니다. 미 상무장관이 삼성전자와 SK하이닉스에 전공정 팹 증설까지 공개적으로 요구할 수 있는 것도, 무엇이 어디에 있는지가 이미 문서로 파악되기 때문입니다.

엔비디아가 오하이오 데이터센터에 최대 1050억 달러의 임대료와 전력요금, 잔존가치를 보증하기로 한 건도 마찬가지입니다. 초기 4.25GW 규모 시설을 오픈AI가 20년간 독점 임차하고, 엔비디아는 시설을 짓는 SB에너지에 15억 달러를 따로 투자합니다. 이 구조를 두고 칩을 팔아 번 돈이 다시 칩 구매로 돌아온다는 순환금융 논란이 붙었고, 당초 검토되던 2500억 달러 보증은 채권시장의 경고 속에 1단계 한정으로 줄었습니다. 젠슨 황 CEO는 오픈AI가 임대료를 내고 용량이 가동되면 잔여 위험이 줄어드는 공급망 관리라며 반박했습니다.

여기서 짚고 싶은 것은 논란의 옳고 그름이 아닙니다. 논란이 가능했다는 사실 자체입니다. 누가 누구에게 얼마를 보증했고 그 돈이 어디로 흘렀는지가 문서로 드러나 있기 때문에 시장이 따져 물을 수 있었고, 보증 규모가 실제로 조정되기까지 했습니다. 삼성전자와 SK하이닉스가 반년 만에 설비투자 45조 원을 집행했다는 집계가 나오는 것도 같은 이유입니다. 물리적인 것은 흔적을 남깁니다. 그리고 흔적이 남는 산업에서는 논쟁이 데이터로 진행됩니다.

흔적을 남기지 않는 쪽에서 벌어진 일

모델 학습은 그렇지 않습니다. 어떤 데이터가 어떤 경로로 들어가 가중치의 어느 부분에 스몄는지는 완성된 모델을 아무리 뜯어봐도 나오지 않습니다. 콘크리트를 붓는 일과 달리 학습은 자기 이력을 스스로 지우면서 진행됩니다. 그래서 증류 논쟁은 기술적 검증이 아니라 정황과 협상의 문제가 되고, 결국 미국과 미리 이야기하자는 제안으로 이어집니다. 반도체였다면 세관과 계약서가 답했을 질문을, 모델에서는 변호사와 외교가 답해야 합니다.

게다가 이 문제는 한 번 발생하면 되돌릴 수가 없습니다. 잘못 들어온 데이터를 뒤늦게 알아차려도 모델에서 그 부분만 떼어낼 방법이 없어, 사실상 다시 학습하는 것 말고는 선택지가 없습니다. 불량 웨이퍼는 폐기하면 그만이지만 오염된 학습은 완제품 전체를 흔듭니다. 이 비대칭은 앞으로 더 벌어질 가능성이 큽니다. 독파모 2차 평가에서 아티피셜 애널리시스 지표는 모티프테크놀로지스 47점, 업스테이지 솔라 오픈2 37점, SK텔레콤 A.X K2 35점, LG AI연구원 K엑사원 2.0 31점을 기록했습니다. 파라미터가 가장 큰 750B 모델이 가장 낮은 점수를 받았고, 384개 전문가 중 토큰마다 8개만 활성화하는 314B 구조가 1위에 올랐습니다. 규모가 곧 성능이 아니라는 사실이 확인되면서 경쟁의 무게중심은 아키텍처 설계와 학습 레시피 쪽으로 옮겨가는 중입니다. 설계가 정교해질수록 파이프라인은 여러 단계로 나뉘고, 어느 단계에서 무엇이 들어왔는지는 더 흐려집니다. 잘 만들수록 증명하기 어려워지는 구조입니다.

진짜 병목은 학습이 아니라 실행입니다

그런데 독파모 심사 기준을 들여다보면 다른 이야기가 보입니다. 4개 팀을 3개로 압축하고 12월에 최종 2개 팀을 뽑는 이 경쟁에서, 핵심 심사 축은 에이전틱 AI 역량과 기업 및 공공기관 현장의 운영 효율성입니다. 배점도 벤치마크 40점, 전문가 평가 35점, 사용자 평가 25점으로 나뉘어 국민평가단 200명이 직접 써보고 점수를 매겼습니다. 국가가 뽑는 모델의 기준이 이미 대화 품질이 아니라 업무 수행 능력으로 이동했다는 뜻입니다.

문제는 그 업무 수행이 벌어지는 자리의 상태입니다. 현대차는 자체 개발한 H 챗 프로를 사내에 적용했고 삼성전자는 외부 LLM 3종을 정식 도입했지만, 기밀 유출 우려로 일부 조직에서는 사용이 오히려 주춤합니다. 딜로이트 조사에서 아시아태평양 기업의 86%가 AI 사용의 최대 우려로 보안 취약성을 꼽았으니 국내만의 사정도 아닙니다. 2023년 사내 소스코드와 회의록이 외부 서버로 넘어간 사고가 지금까지 인용되는 이유는, 그때 무슨 일이 있었는지를 사후에 재구성하기가 어려웠기 때문입니다. 유출 자체보다 유출 범위를 특정하지 못한 것이 더 오래 남았습니다.

수요가 없어서 주춤하는 것이 아니라는 점도 함께 봐야 합니다. 국내 클라우드 3사의 실적은 같은 날 나란히 두 자릿수 성장을 기록했습니다. KT가 20%, 네이버가 21%, NHN이 53% 늘었습니다. AI 워크로드가 이미 국내 사업자의 매출로 전환되고 있다는 뜻입니다. 순환금융 논란이 던지는 수요가 진짜냐는 질문에도 국내 지표는 비교적 담백하게 답하고 있는 셈입니다. 그러니 지금의 망설임은 효용을 몰라서가 아니라, 효용을 얻는 과정에서 무엇이 새어 나가는지 확인할 방법이 없어서 생깁니다. 도입을 막는 것은 회의감이 아니라 불투명함입니다.

정리하면 이렇습니다. 출처를 증명하기 어려운 방식으로 만든 모델을, 실행 흔적을 남기지 않는 환경에서 돌리려 하고 있습니다. 증명 불가가 두 겹으로 겹쳐 있는 셈입니다. 채팅창에서 요약을 받을 때는 이 겹침이 잘 드러나지 않지만, 에이전트가 사내 시스템에 접속하고 파일을 고치고 승인 없이 다음 단계로 넘어가기 시작하면 곧바로 문제가 됩니다. 그리고 둘 중 하나는 지금도 고칠 수 있습니다.

실행은 설계로 증명할 수 있습니다

학습 데이터의 출처는 소급하기가 몹시 어렵습니다. 이미 가중치에 녹아버린 뒤라 그렇습니다. 반면 실행은 다릅니다. 에이전트가 어떤 도구를 호출했고 어떤 데이터를 읽었으며 누구의 승인을 거쳐 무엇을 바꿨는지는, 그렇게 설계해두기만 하면 처음부터 문서로 남습니다. 반도체가 원산지 증명서를 갖게 된 것도 흔적이 저절로 남아서가 아닙니다. 남기도록 제도를 짰기 때문입니다.

ThakiCloud의 Paxis가 스킬과 도구, 정책, 감사 로그를 일급 리소스로 두는 이유가 여기에 있습니다. 에이전트가 무엇을 할 수 있는지는 정책이 정하고, 실제로 무엇을 했는지는 감사 로그가 남깁니다. L0에서 L3까지 나뉜 자율도는 어디까지 사람이 승인하고 어디부터 자동으로 통과시킬지를 업무 단위로 조절하게 해줍니다. 실행이 격리된 샌드박스 안에서 이뤄지므로, 사내 문서를 다루던 에이전트가 무엇을 어디로 보냈는지 묻는 질문이 추측이 아니라 조회의 대상이 됩니다. 외부 시스템 연결도 마찬가지입니다. 커넥터로 붙는 도구와 스킬이 정책의 적용을 받는 자원으로 관리되면, 도입 속도와 통제 범위를 함께 늘릴 수 있습니다.

감사 로그를 두는 목적이 사고 조사에만 있는 것도 아닙니다. 무엇이 통과했고 무엇이 막혔는지가 기록으로 쌓이면, 보안팀은 다음 업무의 자율도를 올릴지 내릴지를 감이 아니라 이력으로 판단할 수 있습니다. 통제가 도입을 늦춘다는 통념과 반대로, 근거가 남는 통제는 오히려 확대의 속도를 올립니다.

모델 선택도 같은 축에 놓입니다. 314B 구조가 750B를 앞선 결과가 보여주듯 업무마다 적정 모델이 다르고, 민감한 업무와 일반 업무는 처리되는 위치도 달라야 합니다. 삼성전자처럼 외부 모델을 여러 개 도입한 조직이라면 특히 그렇습니다. Paxis는 작업별로 모델을 고르도록 설계돼 있고, 소버린 요건이 걸린 워크로드는 온프렘 쿠버네티스 위에서 폐쇄망 안에 둘 수 있습니다. 데이터가 국경을 넘지 않았다는 사실 또한 주장이 아니라 기록으로 답해야 하는 항목입니다.

이런 요건은 규제 산업일수록 조달 문서에 먼저 등장합니다. 금융과 공공, 방산에서는 성능 항목보다 접근 통제와 감사 항목이 앞자리에 놓이는 경우가 많습니다. 국가대표 모델이 이들 영역의 표준으로 자리 잡는다면, 그 모델을 얹을 실행 환경도 같은 문서를 통과해야 합니다.

오늘 뉴스의 두 축은 결국 한 문장에서 만납니다. 우리는 칩이 어디서 왔는지는 서류로 답할 수 있는데, 지능이 어디서 왔고 무엇을 했는지는 아직 답하지 못합니다. 앞의 절반은 협상과 제도가 시간을 들여 풀어야 할 몫입니다. 뒤의 절반은 오늘 무엇을 쓰기로 결정하느냐에 달려 있습니다. 국가대표 모델을 고르는 기준에 에이전틱 역량이 들어간 이상, 그 모델을 어디에 얹을지도 같은 무게로 정해야 합니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

태그: 에이전트 네이티브 클라우드, ai-governance, audit-log, 엔터프라이즈 AI, model-provenance, paxis, 소버린 AI

카테고리:

업데이트:

참고