Annotations as Rollouts - Efficient and Scalable Reinforcement Learning for Video MLLMs
Y. Li, G. Mu, H. Li, S. Qian, D. Zhang, Q. Hou, and M.-M. Cheng, "Annotations as Rollouts: Efficient and Scalable Reinforcement Learning for Video MLLMs," arXiv:2608.20492, 2026.
강화학습으로 비디오 모델을 후처리 학습할 때, 정답 어노테이션은 채점 기준으로만 쓰입니다. 모델이 뽑은 여러 응답에 점수를 매기고 나면 그 역할은 끝납니다. 정작 "정확히 이 구간, 이 박스가 정답"이라는 정보 자체는 학습 신호로 한 번도 들어가지 않습니다.
문제는 모델이 뽑은 응답 중에 정답에 가까운 게 거의 없다는 점입니다. 시간 그라운딩처럼 경계를 초 단위로 맞춰야 하는 태스크에서는 여덟 개를 뽑아도 전부 틀리는 그룹이 흔합니다. 이 논문은 그럴 거면 정답을 그냥 아홉 번째 롤아웃으로 집어넣자고 제안합니다. 그리고 그렇게 하면 왜 학습이 망가지는지, 어떻게 고쳐야 하는지를 다룹니다.
저자
난카이대학 VCIP에서 나온 논문입니다. 1저자 리윈헝은 청밍밍과 허우치빈이 공동 지도하는 박사과정이고, 교신저자가 허우치빈, 시니어 저자가 청밍밍입니다. 세 사람이 한 계보라 사실상 한 연구실의 결과물입니다. 여기에 중국과학원 자동화연구소의 첸성성과 서북공업대학 BRAIN Lab의 장딩원이 붙었습니다.
이 조합이 중요한 이유는 논문의 직전 작업 때문입니다. 같은 1저자의 Tempsamp-R1은 시간 그라운딩에서 정답을 그룹에 섞을 때 생기는 학습 붕괴를 이미 겪었고, 태스크마다 손으로 설계한 보상 변환으로 그 붕괴를 눌렀습니다. 문제는 그 변환이 왜 필요한지를 설명하지 못했다는 점입니다. 보상 의미가 바뀌면 변환도 다시 설계해야 했습니다.
이번 논문은 그 미완의 지점에 이름을 붙이는 데서 시작합니다. 저자들은 그 현상을 advantage inversion이라고 부르고, 보상 의미에 의존하지 않는 갱신 규칙 하나로 일곱 개 태스크를 전부 처리합니다. 논문 본문이 "우리의 이전 작업 Tempsamp-R1은 같은 열화를 손수 설계한 보상 정형으로 완화했다"고 직접 밝히고 있어서, 후속작이라는 성격이 숨겨져 있지도 않습니다.
백본 연구실에서 나왔다는 사실도 실험 설계에 남아 있습니다. 알고리즘 비교만 하는 게 아니라 백본 두 계열에 같은 프로토콜을 그대로 붙이고, 0.8B에서 9B까지 네 규모를 전부 학습해 스케일링 곡선을 그립니다. 장딩원의 약지도 학습 배경은 문제 설정 자체에 들어 있습니다. 약지도가 불완전한 감독에서 최대치를 뽑는 일이라면, 이 논문은 반대로 완전한 감독이 왜 낭비되고 있었는지를 묻습니다.
배경
통합 비디오 인지는 하나의 모델로 시간 그라운딩, 공간 그라운딩, 분할, 추적, 공간 이해를 전부 처리하려는 방향입니다. 그런데 지금 이 영역에서는 이상한 일이 벌어지고 있습니다. Gemini-3-Pro나 GPT-5 같은 최대 규모 상용 모델이 10B 미만 오픈소스 전문가 모델에 시간 그라운딩과 공간 지능에서 밀립니다. 정밀도가 모델 크기가 아니라 태스크에 맞춘 후처리 학습에서 결정된다는 뜻입니다.
그러면 후처리 학습 데이터를 늘리면 될 것 같은데, 그것도 잘 안 됩니다. 병목이 데이터 양이 아니라 샘플 효율이기 때문입니다. 기존 방식은 두 갈래인데 양쪽 다 막혀 있습니다.
지도 파인튜닝은 어노테이션을 최대우도 타깃으로 씁니다. 출력 형식은 확실히 익히지만, 거의 맞은 예측과 완전히 틀린 예측을 구분하는 태스크 수준 감독이 없습니다. GRPO 계열은 이 한계를 여러 롤아웃의 보상을 비교하는 방식으로 넘어섭니다. 그런데 여기서 어노테이션은 채점 참조로만 쓰이고, 학습 신호는 온폴리시 그룹의 품질에 갇힙니다. 온폴리시 롤아웃이 정확한 구간이나 박스를 좀처럼 복원하지 못하니, 믿을 만한 양의 앵커가 없는 그룹이 대량으로 생깁니다.
생각의 사슬을 붙이면 나아질 것 같지만 그것도 아닙니다. 논문의 측정으로는 강화학습 이전 단계에서 이미 사슬이 시간 그라운딩 평균을 3.9점 떨어뜨립니다. 결핍이 정책 최적화 이전에 발생한다는 뜻입니다. 롤아웃만 길어져 학습과 추론 비용이 함께 올라갑니다.
빈자리는 여기입니다. 믿을 만한 양의 타깃이 그룹마다 하나씩은 필요한데, 그건 이미 데이터셋에 붙어 있습니다.
어떻게 만들었나
핵심 발상은 한 줄입니다. 어노테이션 \(y\)를 모델의 응답 형식으로 직렬화하는 변환 \(T_{\text{task}}\)를 두고, 그 결과를 오라클 롤아웃으로 그룹에 덧붙입니다.
\[o_{\text{gt}} = T_{\text{task}}(y), \quad O_{\text{aug}} = O_{\text{op}} \cup \{o_{\text{gt}}\}, \quad |O_{\text{aug}}| = n+1\]
기존 롤아웃 \(n\)개를 교체하는 게 아니라 덧붙이기 때문에, 온폴리시끼리의 상대 비교가 그대로 보존되고 탐색이 줄지 않습니다. 태스크에 따라 \(o_{\text{gt}}\)는 보기 하나, 시간 구간, 박스, 박스 궤적, 구간에 샘플 박스를 붙인 것, 또는 시각 표시가 붙은 박스와 점 분할 프롬프트가 됩니다.
advantage inversion
문제는 그냥 넣으면 안 된다는 것입니다. 논문의 측정으로 정답을 소박하게 섞으면 GRPO 평균 60.3이 55.4로 떨어지고, 추적은 11.9점이 빠집니다. 정답이 맞다는 사실만으로는 충분하지 않습니다.
왜 그런지는 그룹 평균 식 한 줄에 들어 있습니다. \(n+1\)개를 함께 정규화하면 그룹 평균은 이렇게 됩니다.
\[\mu_{\text{aug}} = \frac{n\mu_{\text{op}} + r_{\text{gt}}}{n+1} = \mu_{\text{op}} + \frac{r_{\text{gt}} - \mu_{\text{op}}}{n+1}\]
정답 보상 \(r_{\text{gt}}\)가 온폴리시 평균 \(\mu_{\text{op}}\)보다 높으면, 평균이 위로 밀립니다. 그러면 \(\mu_{\text{op}} < r_i < \mu_{\text{aug}}\)를 만족하는 롤아웃은 현재 정책의 평균보다 잘했는데도 음의 어드밴티지를 받습니다. GRPO 기준으로는 \(A_i^{\text{GRPO}} > 0\)인데 혼합 그룹에서는 \(A_i^{\text{mix}} < 0\)이 되는 구간입니다.
이 뒤집힘 구간의 폭이 \((r_{\text{gt}} - \mu_{\text{op}})/(n+1)\)입니다. 정답과 정책의 보상 격차에 정비례해서 넓어집니다. 정책이 못할수록 정답이 더 강하게 필요한데, 정확히 그 상황에서 뒤집힘이 가장 심해집니다. 정답을 하나 끼워 넣는 게 왜 학습을 망치는지가 이 한 줄에 다 나옵니다.
여기에 두 번째 효과가 겹칩니다. 정답이 혼합 그룹의 표준편차를 키우니 정규화된 온폴리시 어드밴티지의 크기가 전부 줄고, 기울기 기여도 함께 줄어듭니다.
실측이 이 예측과 맞습니다. 11,503개 그룹의 롤아웃 92,024개를 집계했을 때 소박한 혼합은 GRPO가 양으로 준 롤아웃의 22.4%를 뒤집습니다. 그룹 단위로는 42.5%가 뒤집힌 롤아웃을 하나 이상 포함하고, 8.3%는 양의 롤아웃을 전부 잃습니다. 태스크별 편차도 격차 의존성을 따라갑니다. 추적이 38.7%로 가장 높고 분할이 4.5%로 가장 낮습니다.
갈라놓은 어드밴티지 추정
OraRL의 해법은 정답을 베이스라인에서 빼되 최적화 타깃으로는 남기는 것입니다. 기준선은 온폴리시 보상만으로 계산하고, 분산 정규화를 하지 않습니다.
\[A_i^{(0)} = r_i - \mu_{\text{op}}, \quad i = 1, \dots, n\]
이렇게 두면 온폴리시 평균보다 잘한 롤아웃이 음의 어드밴티지를 받는 일이 구조적으로 불가능해집니다. 뒤집힘 구간이 정의상 비어 있습니다.
문제는 이러면 정답과 정책의 격차 정보가 사라진다는 점입니다. OraRL은 그 격차를 두 개의 항으로 나눠 다시 집어넣습니다.
첫째는 방향성 이득입니다. 보상 산포의 변화로 격차를 추정합니다. \(\sigma_{\text{op}}\)는 온폴리시 보상의 표준편차, \(\sigma_{\text{aug}}\)는 정답을 포함한 표준편차입니다.
\[g_q = \text{clip}\left[\left(\frac{\sigma_{\text{aug}}}{\sigma_{\text{op}} + \epsilon}\right)^{1/4}, 1, 4\right]\]
\[U_i = \begin{cases} g_q A_i^{(0)}, & A_i^{(0)} > 0 \\[2pt] A_i^{(0)}, & A_i^{(0)} \le 0 \end{cases}\]
평균 위 롤아웃만 증폭하고 아래는 건드리지 않습니다. 비대칭 스케일링이라 그룹 평균이 밀리므로, \(A_i^{\text{op}} = U_i - n^{-1}\sum_j U_j\)로 다시 중심을 맞춥니다.
둘째는 분리된 정답 어드밴티지입니다. 격차를 그대로 쓰지 않고 정규화한 가중치를 먼저 만듭니다.
\[w_q = \text{clip}\left[\left(\frac{r_{\text{gt}} - \mu_{\text{op}}}{r_{\text{gt}} + \epsilon}\right)^2, 0, 1\right]\]
정책 평균이 정답 보상에 도달하면 0이 되고, 멀수록 1에 가까워집니다. 어노테이션이 아직 얼마나 감독을 제공할 여지가 있는지를 재는 값입니다. 지수 \(2\)가 정책이 좋아질수록 감쇠를 가파르게 만듭니다. 이 값을 가장 강한 양의 온폴리시 신호 \(A^+_{\max} = \max(0, \max_i A_i^{\text{op}})\)에 대해 상한을 걸어 최종 정답 어드밴티지를 얻습니다.
\[A_{\text{gt}} = \min\left(2w_q,\ \text{clip}\left(1.2\,A^+_{\max},\ 0.05,\ 1\right)\right)\]
두 번째 항이 정답이 그룹을 지배하는 것을 막습니다. 양의 온폴리시 롤아웃이 하나도 없으면 상한이 0.05가 되어, \(w_q > 0\)일 때 작은 부트스트랩 신호만 남고 \(w_q = 0\)이면 사라집니다.
부호 균형 프루닝
여기까지가 정확도 쪽이고, 나머지 절반은 비용입니다. OraRL은 어드밴티지를 전부 계산한 다음 일부만 남겨 순전파와 역전파를 돌립니다. \(K = \lfloor n(1-\kappa)\rfloor\)개를 남기는데, 선택 규칙이 핵심입니다.
\[S_q = \{o_{\text{gt}}\} \cup \text{TopK}_+\left(O^+, |s_i|\right) \cup \text{TopK}_-\left(O^-, |s_i|\right)\]
정답은 항상 남기고, 나머지 \(K-1\)자리를 양과 음에 최대한 고르게 나눕니다. 크기만 보고 자르는 CPPO 방식과 다른 지점이 이것입니다. 크기순으로만 뽑으면 한쪽 부호만 남을 수 있고, 그러면 남은 롤아웃이 전부 같은 방향으로 정책을 밀게 됩니다. \(n = 8\), \(\kappa = 0.5\)이면 남는 것은 정답 하나, 양의 온폴리시 하나, 음의 온폴리시 둘입니다.
프루닝은 남은 어드밴티지의 평균과 크기를 바꾸므로 사후 보정이 필요합니다. 평균을 0으로 되돌리고, 정답 어드밴티지가 음수가 되면 그 값을 0으로 놓고 오프셋을 나머지에 고르게 분배합니다. 스케일은 프루닝 전 온폴리시 RMS를 기준으로 맞춥니다.
\[\lambda_q = \text{clip}\left(\frac{\text{RMS}_{\text{op}}}{\text{RMS}_S + \epsilon},\ 0.25,\ 1\right), \quad \hat{A}_i = \lambda_q \tilde{z}_i\]
상한이 증폭을 막고 하한이 감쇠를 네 배로 제한합니다.
정책 목적함수 자체는 GRPO의 클리핑 형태를 그대로 씁니다. 바뀐 것은 그룹 구성, 어드밴티지 추정, 롤아웃 선택 셋뿐입니다.
\[J_{\text{ours}}(\theta) = \frac{1}{N_q}\sum_{i \in S_q}\sum_{t=1}^{|o_i|} \min\left(\rho_{i,t}\hat{A}_i,\ \bar{\rho}_{i,t}\hat{A}_i\right)\]
구현은 veRL 위에서 롤아웃 생성에 vLLM, 학습에 FSDP를 씁니다. 비디오를 한 번만 디코딩해 프레임과 시간 메타데이터를 롤아웃 엔진과 액터 엔진이 공유하는 식으로 전처리 부담을 줄였습니다. 지도 파인튜닝에 프롬프트 284,779개, 강화학습에 100,032개를 씁니다.
결과
먼저 알고리즘 비교입니다. Qwen3.5-4B의 같은 지도 파인튜닝 체크포인트에서 출발해 같은 데이터와 최적화 예산을 씁니다.
방법 |
Temporal |
Tracking |
Video Seg. |
평균 |
|---|---|---|---|---|
백본 |
55.3 |
45.3 |
24.2 |
41.6 |
SFT 초기화 |
57.6 |
60.2 |
55.6 |
57.8 |
계속 SFT |
55.2 |
63.1 |
57.7 |
58.7 |
GRPO |
58.1 |
63.9 |
58.9 |
60.3 |
Dr. GRPO |
58.3 |
65.1 |
58.6 |
60.7 |
GDPO |
58.0 |
64.4 |
58.9 |
60.4 |
CPPO |
58.5 |
64.2 |
58.8 |
60.5 |
LUFFY 방식 |
57.0 |
50.0 |
57.2 |
54.7 |
OraRL |
60.5 |
67.1 |
60.6 |
62.7 |
이 표에서 읽어야 할 것은 OraRL의 숫자가 아니라 그 위 네 줄이 서로 붙어 있다는 사실입니다. GRPO, Dr. GRPO, GDPO, CPPO가 0.4점 안에 다 들어옵니다. 정규화 편향을 제거하든 어드밴티지 크기로 프루닝하든 결과가 거의 안 바뀐다는 뜻입니다. OraRL만 2.0점을 더 벌었으니, 이득의 출처는 다른 어드밴티지 추정기가 아니라 추가된 정답 자체입니다.
LUFFY 방식이 54.7로 GRPO보다도 낮은 것은 따로 봐야 합니다. LUFFY는 교사 궤적을 중요도 샘플링으로 주입하는데, 온폴리시 비율이 전부 1이라 중요도 가중이 베이스라인 이동을 보정하지 못합니다. 오프폴리시 궤적을 그룹에 넣는 접근이 일반적으로 안 통한다는 게 아니라, 이 문제에서는 그 보정 장치가 작동하지 않는다는 뜻입니다.
뒤집힘 비율을 직접 잰 표가 이 논문에서 가장 설득력 있는 근거입니다. 낮을수록 좋습니다.
변형 |
Temporal |
Tracking |
Video Seg. |
전체 |
|---|---|---|---|---|
소박한 정답 혼합 |
18.8 |
38.7 |
4.5 |
22.4 |
|
9.7 |
21.7 |
1.3 |
11.9 |
OraRL, 프루닝 전 |
1.0 |
3.5 |
0.3 |
1.9 |
OraRL, 프루닝 후 |
1.1 |
0.2 |
0.0 |
0.3 |
보상 정형은 22.4%를 11.9%로 줄이지만 없애지는 못합니다. 정답이 정규화 통계 안에 남아 있는 한 베이스라인 이동 자체는 그대로이기 때문입니다. OraRL은 베이스라인에서 정답을 빼서 1.9%까지 내리는데, 남은 1.9%의 출처가 베이스라인이 아니라 재중심화라는 설명이 붙어 있습니다. 방향성 이득이 평균 위만 증폭해 어드밴티지에 작은 양의 평균이 생기고, 그걸 빼면서 가장 약한 것들이 0 아래로 밀립니다. 이들은 크기가 미미해 대부분 프루닝되므로 실제로 기울기를 받는 롤아웃 중 뒤집힌 것은 0.3%만 남습니다.
주요 벤치마크 성적입니다. 전부 생각의 사슬 없이 답만 생성한 결과입니다.
지표 |
이전 최고 |
Video-ORA-9B |
|---|---|---|
시간 그라운딩 mIoU (3개 평균) |
62.5 (TimeLens2-8B) |
66.0 |
추적 AO (GOT-10k) |
73.0 (OneThinker-8B) |
78.2 |
분할 (RefCOCO 계열 + 비디오) |
64.3 (OneThinker-8B) |
70.4 |
VSI-Bench 평균 |
70.9 (LLaVA-OV2-8B) |
73.1 |
VSI-Bench의 73.1은 상용 모델 전부를 앞섭니다. GPT-5가 55.0, Gemini-3-Pro가 55.1, Kimi-K2.5가 54.5입니다. 오픈소스 공간 지능 전문 모델 중 최고인 SpaceMind의 69.6보다도 3.5점 높습니다.
다만 여기에는 단서가 붙습니다. MMSI-Bench와 MindCube-Tiny를 묶은 평균 47.7은 Grok-4의 50.7, GPT-5의 49.1, Gemini-2.5-Pro의 47.8보다 낮습니다. 공간 지능에서 이겼다는 서술은 VSI-Bench에 한정된 이야기입니다. 실제로 경로 계획(route plan) 항목만 떼어 보면 Video-ORA-9B가 47.4로 Gemini-3-Pro의 61.9에 크게 밀립니다. 강한 곳은 등장 순서(90.6 대 83.5)나 물체 개수 같은 인지 항목이고, 복잡한 추론이 필요한 항목은 여전히 약합니다.
생각의 사슬을 뺀 것이 손해가 아니라는 근거는 이 표입니다. 시간 그라운딩 세 벤치마크 평균입니다.
설정 |
방법 |
평균 |
스텝 시간 (s) |
|---|---|---|---|
사슬 + 답 |
백본 |
51.4 |
- |
사슬 + 답 |
GRPO |
58.5 |
135.6 |
답만 |
백본 |
55.3 |
- |
답만 |
GRPO |
58.7 |
93.9 |
답만 |
OraRL |
61.4 |
62.4 |
사슬을 붙이면 강화학습 이전 백본 성능이 55.3에서 51.4로 떨어집니다. 강화학습을 돌려도 58.7에서 58.5로 오히려 소폭 하락하면서 스텝 시간만 44.4% 늘어납니다. 적어도 구조화된 시간 그라운딩에서는 긴 추론 흔적보다 직접적인 정답 감독이 정확도와 속도 양쪽에서 낫습니다.
추론 지연도 여기서 나옵니다. Video-ORA-9B와 백본 Qwen3.5-9B의 첫 토큰까지 시간은 24.17초와 24.25초로 사실상 같습니다. 차이는 그다음입니다. 생성 토큰 중앙값이 답 13.5개 대 추론 808.5개라, 첫 토큰 이후 지연이 0.13초와 4.78초로 갈립니다. 10분 영상 전체 중앙값은 24.30초 대 29.03초이고, P90에서는 근거 길이가 들쭉날쭉한 백본이 62.67초까지 벌어지는 동안 Video-ORA-9B는 25.15초에 머뭅니다.
2.2배는 무엇에 대한 배수인가
초록의 "SFT 스텝 시간의 2.2배, GRPO에 사슬을 붙였을 때 필요한 4.9배의 절반 이하"라는 문장은 확인해 볼 값어치가 있습니다. 기준이 되는 SFT 스텝 시간은 27.84초입니다. OraRL이 62.4초이므로 2.24배, 사슬을 붙인 GRPO가 135.6초이므로 4.87배입니다. 두 숫자 모두 본문 표와 맞습니다.
다만 이 표기는 방법을 실제보다 비싸 보이게 만듭니다. 실무자가 비교할 대상은 SFT가 아니라 지금 돌리고 있을 GRPO이고, 그 기준으로는 93.9초에서 62.4초로 33.5% 줄어듭니다. 초록이 SFT 대비 배수를 앞세운 것은 절대 비용의 하한을 보여주려는 선택으로 보이지만, 읽는 쪽에서는 두 기준을 모두 알고 봐야 합니다.
프루닝 비율을 바꿔 가며 잰 표가 이 트레이드오프를 직접 보여줍니다.
\(\kappa\) |
\(K\) |
스텝 (s) |
메모리 (GB) |
평균 |
|---|---|---|---|---|
0 |
8 |
92.5 |
62.4 |
63.1 |
0.25 |
6 |
75.0 |
60.0 |
62.8 |
0.50 |
4 |
62.4 |
50.9 |
62.7 |
0.75 |
2 |
45.0 |
47.5 |
60.2 |
프루닝을 아예 하지 않은 쪽이 63.1로 가장 높습니다. 논문이 채택한 \(\kappa = 0.5\)는 0.4점을 내주고 스텝 시간을 32% 줄이는 선택입니다. \(\kappa = 0.75\)에서 급락하는 것은 정답과 정책 롤아웃 하나만 남아 부호 대비가 사라지기 때문입니다. 부호 균형이 프루닝의 본체라는 주장과 일치합니다.
회고
저자들이 직접 밝힌 한계는 명확합니다. 현재 정식화는 모든 어노테이션이 유효한 오라클 롤아웃으로 직렬화될 수 있고 스칼라 태스크 보상으로 평가될 수 있다고 가정합니다. 모호하거나 부분적이거나 잡음이 섞인 감독, 그리고 학습된 오라클에서 어떻게 동작하는지는 평가하지 않았습니다.
이 가정이 이 방법의 적용 범위를 정확히 정합니다. 정답이 모델의 응답 형식 안에 그대로 들어갈 수 있고 채점이 스칼라 하나로 끝나는 태스크면 됩니다. 논문이 비디오 질의응답과 공간 지능처럼 기하 예측이 아닌 텍스트 정답 태스크까지 같은 인터페이스로 묶은 것은 이 조건이 위치 추정 밖에서도 성립한다는 증거입니다. 코드나 수학으로 옮긴다면 참조 해답이 모델이 실제로 뱉을 수 있는 형태여야 하고, 부분 점수가 아니라 하나의 점수로 평가돼야 합니다. 단위 테스트 통과 여부나 최종 답 일치처럼 이미 스칼라인 보상이 붙어 있는 영역이 후보입니다.
반대로 어려운 쪽도 분명합니다. 정답이 여러 개거나 서술형이라 직렬화가 애매한 태스크, 정답 자체가 잡음인 태스크에서는 오라클이 오라클이 아니게 됩니다. LUFFY 방식이 무너진 것도 결이 비슷합니다. 교사 궤적은 정책이 뱉을 수 있는 분포 밖에 있을 수 있고, 그러면 중요도 가중이 보정해야 할 것이 하나 더 늘어납니다. 이 논문의 오라클은 짝지어진 어노테이션에서 바로 오기 때문에 교사가 필요 없습니다.
숫자 쪽에서 확인이 필요한 지점이 하나 있습니다. 초록은 공간 지능 세 벤치마크 매크로 평균이 51.0에서 56.1로 올랐다고 적었습니다. 56.1은 Table 6과 Table 8에서 재현됩니다. VSI-Bench 73.1, MMSI-Bench 37.9, MindCube-Tiny 57.4의 평균이 56.13입니다. 그런데 51.0은 본문 어느 표에서도 나오지 않습니다. Figure 1이 비교 대상으로 세운 막대는 44.2(Cambrian-S-7B)와 43.6(Qwen3.5-9B)이고, 벤치마크별 오픈소스 최고를 각각 뽑아 평균 내면 49.8이 됩니다. 초록의 "각각의 이전 최고 모델 대비"라는 표현을 어떻게 해석해도 51.0이 나오는 조합을 찾지 못했습니다. 나머지 세 지표(62.5, 73.0, 64.3)는 전부 표에서 그대로 재현되므로, 이 항목만 기준이 다르거나 개정 과정에서 갱신이 누락된 것으로 보입니다. 정본은 본문 표입니다.
같은 맥락에서 컴포넌트 절제 결과도 초록과 어긋나 보일 수 있어 적어 둡니다. 부호 균형 프루닝은 정확도를 올리는 장치가 아닙니다. 방향성 이득을 빼면 1.5점, 분리된 정답 어드밴티지를 빼면 1.4점, 보상 격차 가중을 빼면 1.1점이 떨어지는 반면, 프루닝을 아예 안 하면 오히려 0.4점이 올라갑니다. 프루닝의 기여는 1.48배 가속이고, 모멘트 보정은 그 가속을 사면서 잃을 뻔한 1.1점 중 0.7점을 되찾아 손실을 0.4점으로 묶는 역할입니다.
마지막으로 논문 자체의 날짜가 조금 어긋납니다. arXiv 제출은 2026년 8월 20일인데 PDF 표지에는 8월 24일이 적혀 있습니다. 내용에 영향을 주는 문제는 아니지만 인용할 때 참고할 만합니다.
정리
- 강화학습 그룹에서 정답 어노테이션은 채점 기준으로만 소비되고 버려집니다. 그걸 롤아웃 하나로 그룹에 덧붙이자는 게 이 논문의 전부인데, 그냥 넣으면 정답이 그룹 평균을 \((r_{\text{gt}} - \mu_{\text{op}})/(n+1)\)만큼 밀어 올려 잘한 롤아웃까지 벌을 받습니다. 정책이 못할수록 이 폭이 넓어진다는 게 문제의 핵심입니다.
- 해법은 정답을 베이스라인에서 빼고 최적화 타깃으로만 남기는 것입니다. 사라진 격차 정보는 방향성 이득과 분리된 정답 어드밴티지 두 항으로 되돌립니다. 뒤집힘 비율이 22.4%에서 실질 0.3%로 떨어지고, 같은 조건에서 GRPO 계열 네 방법이 0.4점 안에 몰려 있는 반면 OraRL만 2.0점을 더 법니다.
- 적용 조건은 명확합니다. 정답이 모델 응답 형식으로 직렬화되고 스칼라 하나로 채점되면 됩니다. 다만 공간 지능에서의 우위는 VSI-Bench에 한정되고, 경로 계획처럼 복잡한 추론이 필요한 항목은 상용 모델에 여전히 밀립니다. 초록의 공간 지능 기준선 51.0은 본문 표에서 재현되지 않으므로 표를 정본으로 보아야 합니다.