-->

MoE(Mixture-of-Experts) 모델을 H200이나 Blackwell급 클러스터에서 서빙하면서 NVFP4 4비트 양자화 도입을 저울질하고 있다면, 이 글의 결론 한 줄이 바로 실무 지침이 됩니다. 모델의 모든 전문가를 똑같이 4비트로 누르는 대신 일부만 전정밀도로 지킬 수 있을 때, 지켜야 할 대상은 트래픽이 많은 “핫” 전문가입니다. 실제 디코더 MoE인 allenai/OLMoE-1B-7B-0924(전문가 1024개, top-8 라우팅)를 H200에서 측정한 결과, 핫 전문가를 지키는 정책은 같은 저장 공간을 쓰는 무작위 배분을 모든 저장 예산에서 파레토 지배했습니다. 가장 뜨거운 10퍼센트만 지켜도(균일 4비트 대비 약 24퍼센트 저장 프리미엄) 정확도 격차의 46.9퍼센트가 돌아왔습니다.

이 결론은 사실 이 연구의 이전 버전을 정면으로 뒤집은 것입니다. 이전 버전은 라우터와 트래픽이 낮은 희귀 전문가를 지키자고 주장했고, 스팬 손상 인코더-디코더 모델에 망가진 지표를 얹어 부정적인 결과를 냈습니다. 오늘 글은 그 두 가지 실수를 바로잡습니다. 배분 방향을 뒤집어 핫 전문가를 지키고, 실제 디코더 MoE에서 제대로 된 perplexity 지표로 다시 측정했더니 부호가 음에서 양으로 뒤집혔습니다.

문제의식: 균일 양자화는 모든 전문가가 똑같이 압축해도 된다고 가정한다

MoE 아키텍처는 토큰마다 소수의 전문가 서브네트워크만 활성화시켜 파라미터 수와 토큰당 연산량을 분리합니다. 문제는 인터랙티브 서빙처럼 배치 크기가 작을 때 병목이 연산이 아니라 대역폭이라는 점입니다. 토큰이 여러 전문가로 흩어지니 각 전문가의 가중치 행렬은 몇 개 토큰을 처리하려고 매번 HBM에서 새로 실려 나오고, GPU는 대부분의 시간을 메모리 대기에 씁니다. NVFP4 같은 4비트 포맷은 이 병목을 정면으로 공략하지만, 모델 전체를 균일하게 누르는 접근은 모든 전문가가 똑같이 압축을 견디고 똑같이 압축할 가치가 있다고 암묵적으로 전제합니다.

이 전제는 틀렸습니다. 어떤 워크로드에서든 전문가는 대부분의 토큰을 처리하는 소수의 핫 전문가와, 어쩌다 한 번 발화하는 긴 꼬리의 희귀 전문가로 갈립니다. 핫 전문가의 가중치는 그 레이어를 지나는 토큰 대다수가 소비하기 때문에, 이 전문가를 4비트로 누르면 그 양자화 오차가 가장 많은 출력으로 번집니다. 반대로 희귀 전문가를 눌러도 오차가 닿는 토큰은 몇 개뿐이라, 지켜봐야 되찾는 정확도가 미미합니다. 그래서 지킬 예산이 한정되어 있다면 핫 전문가에 써야 정확도 회복 효율이 가장 높습니다. 이것이 이 연구가 채택하고 실제로 측정한 방향이며, 이전 버전과 정확히 반대입니다.

핵심: RASQ 정책과 등가 저장 비교

이 정책을 논문은 Router-Aware Selective Quantization, 줄여서 RASQ라고 부릅니다. 약어는 유지하되 전문가 보호 규칙을 새로 정의했습니다. 라우터 선형 레이어는 예외 없이 항상 전정밀도로 고정하고, 전문가를 트래픽으로 순위 매긴 뒤 가장 뜨거운 상위 K 비율만 전정밀도로 지키고 나머지는 4비트로 양자화합니다. 아무것도 지키지 않는 K=0이 곧 균일 4비트 양자화이므로, 균일 양자화와 RASQ는 같은 한 개 파라미터짜리 계열 위의 두 점입니다.

비교는 공정하게 통제했습니다. 각 보호 비율 K에서(즉 같은 저장 공간에서) 세 가지 배분 정책을 나란히 놓았습니다. 첫째는 트래픽 기준으로 핫 전문가를 지키는 RASQ입니다. 둘째는 무작위로 K 비율을 지키는 방식으로, 균일 4비트와 전정밀도 사이를 그냥 섞은 선형 혼합 대조군입니다. 셋째는 각 전문가의 4비트 양자화 왜곡(상대 MSE)으로 순위를 매겨 지키는 방식으로, “왜곡이 큰 전문가가 트래픽보다 나은 신호일 것”이라는 사전 등록 가설을 검증하기 위한 것이었습니다. 세 정책 모두 같은 개수의 전문가를 지키므로 저장 공간이 동일하고, 따라서 이 비교는 저장량이 아니라 순수하게 “어떤 신호로 순위를 매기느냐”의 가치를 가려냅니다.

정확도 축은 고정된 공개 도메인 영어 코퍼스(오스틴, 디킨스, 캐럴 등 1900년 이전 산문) 위의 perplexity이며, 절대값이 아니라 설정 간 상대 비교로만 씁니다. 정확도 측정에는 채널별 affine 4비트 가짜 양자화를 NVFP4의 하드웨어 독립적 프록시로 사용했습니다. H200은 Hopper 세대라 네이티브 FP4 텐서코어가 없어 이 프록시가 필요했고, 그래서 처리 속도가 아니라 정밀도 배분의 정확도 효과만 측정했습니다.

측정 결과: 핫 전문가 보호가 모든 예산에서 이겼다

기준점부터 보겠습니다. 전정밀도 baseline_bf16은 perplexity 1.399에 전문가 가중치 저장 13.0GB, 균일 4비트 uniform_4bit은 perplexity 1.568에 3.8GB였습니다. 둘 사이의 손실 격차는 0.168 perplexity입니다. 이 격차 중 각 정책이 얼마를 되찾는지를 회복률로 정리하면 결과가 선명하게 드러납니다.

가장 뜨거운 10퍼센트를 지키는 K=10퍼센트(전문가 102개, 4.7GB)에서 핫 정책은 perplexity 1.489로 46.9퍼센트를 회복했습니다. 같은 저장 공간을 쓰는 무작위 배분은 1.551로 9.7퍼센트, 왜곡 기준 배분은 1.554로 8.2퍼센트에 그쳤습니다. K=25퍼센트(전문가 256개, 6.1GB)에서는 핫이 1.454로 67.5퍼센트, 무작위가 1.516으로 30.5퍼센트, 왜곡이 1.516으로 30.8퍼센트였습니다. K=50퍼센트(전문가 512개, 8.4GB)에서는 핫이 1.445로 72.8퍼센트, 무작위가 1.474로 55.4퍼센트, 왜곡이 1.461로 63.4퍼센트를 기록했습니다. 가장 빠듯하면서 실무적으로 가장 매력적인 K=10퍼센트 예산에서 트래픽은 무작위를 거의 다섯 배 앞섰고, 세 예산을 통틀어 그 격차는 대략 두 배에서 다섯 배 사이였습니다.

Loss-gap recovery by policy 같은 저장 공간(보호 비율 K)에서 각 정책이 회복한 손실 격차 비율입니다. 트래픽 기준 핫 전문가 보호가 K=10/25/50퍼센트에서 46.9/67.5/72.8퍼센트를 회복해, 무작위(선형 혼합)의 9.7/30.5/55.4퍼센트를 크게 앞섭니다. 왜곡 기준 배분은 트래픽이 아니라 무작위를 따라갑니다.

정확도와 저장 공간을 함께 그린 프론티어에서도 결론은 같습니다. 핫 정책 곡선은 모든 중간 저장 예산에서 무작위와 왜곡 곡선보다 엄격히 아래에 놓입니다. 즉 단순 선형 혼합에 밀리는 것이 아니라, 그 선형 추세를 파레토 지배합니다. 이전 버전의 부정적 그래프가 뒤집힌 셈입니다.

Accuracy vs storage frontier OLMoE-1B-7B의 perplexity 대 양자화 전문가 저장 공간입니다. 모든 정책은 균일 4비트(3.8GB, ppl 1.568)에서 bf16 기준선(13.0GB, ppl 1.399)으로 보간되지만, 트래픽 기준 핫 곡선만 모든 중간 예산에서 무작위와 왜곡보다 아래에 놓여 선형 추세를 파레토 지배합니다. 정확도는 가짜 양자화 프록시로 측정했고 처리 속도는 측정하지 않았습니다.

왜 트래픽은 통하고 왜곡은 통하지 않았나

핫 전문가 보호가 이기는 이유는 직관적입니다. 핫 전문가는 레이어를 지나는 토큰 대부분을 처리하므로, 그 4비트 오차가 많은 출력으로 퍼집니다. 이 전문가를 지키면 한 번에 여러 토큰에서 오차를 걷어내는 셈입니다. 희귀 전문가는 소수의 토큰만 담당해 그 오차가 몇 개 출력에 갇히니, 지켜도 되찾는 정확도가 적습니다. 트래픽으로 순위를 매기면 지킨 파라미터 한 개당 정확도 수익이 가장 높은 곳에 예산이 몰리고, 그것이 그대로 측정 곡선의 모양이 되었습니다.

그런데 사전 등록했던 두 번째 가설, “전문가별 양자화 왜곡이 트래픽보다 나은 신호일 것”은 데이터가 명확히 기각했습니다. 1024개 전문가에 걸쳐 트래픽은 최소 0, 평균 91.6, 최대 727 라우팅 토큰으로 퍼져서 가장 뜨거운 전문가가 평균의 7.9배에 달합니다. 트래픽은 전문가를 날카롭게 갈라놓습니다. 반면 전문가별 4비트 왜곡은 최소 0.051, 평균 0.055, 최대 0.107로, 가장 왜곡이 큰 전문가조차 평균의 1.9배에 그치고 전체가 평균의 0.93배에서 1.94배 안에 몰려 있습니다. 이렇게 균일한 신호로는 순위를 매길 수 없습니다. 그래서 표에서도 왜곡 정책이 트래픽이 아니라 무작위를 따라간 것입니다(K=10퍼센트에서 8.2퍼센트 대 9.7퍼센트, K=25퍼센트에서 30.8퍼센트 대 30.5퍼센트). 실무 결론은 구체적입니다. 이 모델에서는 트래픽으로 순위를 매기고, 전문가별 왜곡을 계산하는 데 노력을 들이지 마십시오. 어떤 전문가를 지켜야 하는지 왜곡은 알려주지 못합니다.

Why traffic works and distortion does not 1024개 전문가에 걸친 두 후보 신호의 최소·평균·최대를 각자의 평균으로 나눈 값입니다. 트래픽은 평균의 0배에서 7.9배까지 퍼져 전문가를 날카롭게 구분하지만, 4비트 왜곡은 0.93배에서 1.94배에 몰려 사실상 무작위에 가깝습니다. 이 모델에서 실행 가능한 신호는 왜곡이 아니라 트래픽입니다.

스케줄러 관점의 실무 해석과 한계

Kueue 같은 배치 스케줄러 입장에서 이 결과는 유리하지만 경계가 분명합니다. 오프라인에서 트래픽을 한 번 프로파일링해 핫 전문가 맵을 고정하면, 런타임 제어 루프 없이 모델 로딩 경로와 결합되면서 균일 4비트에 견줘 정확도 손실을 상당 부분 되찾습니다. K=10퍼센트 기준 저장 프리미엄은 균일 대비 약 24퍼센트에 불과합니다. 다만 그 뒤에 붙는 조건들을 숨기지 않겠습니다.

첫째, 처리 속도는 측정하지 않았습니다. 정확도는 채널별 affine 4비트 가짜 양자화 프록시로 잰 값이며, 이 프록시는 NVFP4의 2단계 마이크로블록 수치 체계와 반올림 방식이 다릅니다. H200에는 네이티브 FP4 텐서코어가 없어 프록시가 필요했고, NVFP4의 실제 처리량이나 지연, 벽시계 시간은 재지 않았습니다. 비용 축도 측정된 대역폭이 아니라 정적 저장 비트입니다. 둘째, perplexity는 고정 공개 도메인 코퍼스 위의 상대 비교값일 뿐이라 절대 벤치마크 점수로 읽으면 안 됩니다. 정책 사이의 순서와 격차만 의미가 있습니다. 셋째, 대상은 디코더 MoE 한 개(OLMoE-1B-7B)입니다. 핫 전문가 보호가 이긴 것도, 왜곡이 균일하다는 결과도 다른 MoE나 다른 전문가 수, 다른 라우팅 폭, 인코더-디코더 구조로 그대로 전이된다는 보장은 없습니다. 넷째, RASQ의 정적 오프라인 트래픽 프로파일은 배포 워크로드가 바뀌면 어긋날 수 있습니다. 기존 utilization 연구가 보고하듯 핫 전문가 집합은 워크로드에 따라 이동하므로, 한 코퍼스에서 뽑은 핫 맵이 다른 분포에서는 엉뚱한 전문가를 지키고 있을 수 있습니다. 우리가 쓴 프로파일링 코퍼스(1900년 이전 영어 산문) 자체가 좁은 조각이라, 측정된 특정 핫 집합은 코퍼스 의존적입니다. 다만 “핫을 지켜라”는 원칙은 특정 집합과 달리 견고합니다.

정리하면, 방법군은 옳았고 이전 버전의 구현이 틀렸던 것입니다. 방향을 뒤집고 지표를 고치자 결과가 양으로 돌아섰습니다. 이제 남은 일은 프록시가 아닌 실제 NVFP4, 정적 저장이 아닌 측정 대역폭, 그리고 더 큰 여러 MoE로 이 경계를 좁히는 것이며, 재현 가능한 프로토콜이 바로 그 도구입니다. 가리키는 방향은 분명합니다. 핫 전문가를 지키십시오.

논문 상세 페이지: https://huggingface.co/datasets/thaki-AI/daily-paper-2026-07-12-nvfp4-moe-selective-quant

참고