Nemotron-Labs-TwoTower

이 글은 Nemotron-Labs-TwoTower arXiv:2606.26493을 참고하여 작성했습니다.

NVIDIA가 2026년 7월 10일 Nemotron-Labs-TwoTower 모델 가중치를 공개했습니다. 오토리그레시브(AR) 언어 모델의 품질을 거의 그대로 유지하면서 확산(diffusion) 방식의 생성 속도를 결합한 아키텍처입니다. 프리프린트는 2606.26493로 게재됐습니다.

문제

AR LLM과 확산 LLM 사이에는 명확한 트레이드오프가 있습니다.

AR 방식(GPT 계열)은 왼쪽에서 오른쪽으로 한 토큰씩 순차 생성합니다. 품질은 우수하지만, 생성 길이에 비례해 추론 비용이 선형으로 증가합니다. 긴 텍스트를 뽑을수록 느려집니다.

확산 LM(MDLM, Plaid 등)은 전체 시퀀스를 병렬로 정제합니다. 이론적으로 처리량이 월등히 높습니다. 그러나 양방향 어텐션에 최적화된 특성상 AR 모델에 비해 품질이 떨어지는 경우가 많았습니다.

기존 확산 LM의 또 다른 한계는 단일 네트워크가 두 역할을 동시에 맡는다는 점입니다. 맥락 인코딩(정확한 정보 압축)과 반복 디노이징(잡음 제거)은 서로 다른 특성을 요구하는 작업입니다. 하나의 네트워크에 두 역할을 강제하면 용량이 분산됩니다.

TwoTower 아키텍처

TwoTower는 이 두 역할을 명시적으로 분리합니다.

AR 컨텍스트 탑(동결): 클린 토큰을 인과적(causal) 어텐션으로 처리합니다. 학습된 Nemotron-3-Nano-30B-A3B 가중치를 그대로 쓰고 파인튜닝하지 않습니다. 이 탑의 역할은 오직 고품질 맥락 표현을 만드는 것입니다.

확산 디노이저 탑(학습 가능): 잡음이 섞인 블록을 블록 단위 양방향 어텐션으로 디노이징합니다. AR 탑의 출력을 크로스 어텐션으로 받아 맥락을 반영합니다.

\[z_t = \text{Denoise}(x_{\text{noisy}}, \underbrace{C_{\text{AR}}(x_{\text{clean}})}_{\text{AR 탑 출력}})\]

AR 탑이 맥락을 정확하게 포착하고, 확산 탑이 그 맥락에 기반해 병렬로 디노이징합니다. AR 탑은 동결돼 있어 추가 학습 비용이 없으며, 확산 탑만 학습됩니다.

기반 모델

Nemotron-3-Nano-30B-A3B를 기반으로 합니다. 30B 파라미터의 하이브리드 Mamba-Transformer MoE 아키텍처이며, 약 2.1조 토큰으로 사전 학습됐습니다.

기존에 이미 잘 학습된 AR 모델을 AR 탑으로 재사용하기 때문에 처음부터 새로 학습할 필요가 없습니다. 확산 탑만 추가로 학습하면 됩니다.

결과

AR 베이스라인 대비 결과입니다.

AR 품질의 98.7%를 유지하면서 처리량을 2.42배 높였습니다. 기존 확산 LM은 품질 손실이 더 크거나 속도 이득이 제한적이었던 것과 대조됩니다.

의의와 한계

TwoTower가 보여주는 핵심은 "좋은 AR 모델의 표현을 재사용하면서 생성은 확산으로 병렬화할 수 있다"는 것입니다. 이미 학습된 AR 모델 자산을 활용한다는 점에서 실용적인 접근입니다.

한계도 있습니다. AR 탑이 동결돼 있어 맥락 인코딩이 고정됩니다. 특정 도메인에서 AR 탑 자체를 업데이트해야 할 경우 유연성이 제한됩니다. 또한 현재 결과는 AR 베이스라인과의 비교이며, GPT-4급 SOTA 모델과의 전면 비교 데이터는 공개되지 않았습니다.

모델 가중치와 코드는 Hugging Face와 GitHub에서 확인할 수 있습니다.

이 글은 Nemotron-Labs-TwoTower arXiv:2606.26493의 내용을 바탕으로 작성되었습니다.