선이유

개요

선이유(Yiyou Sun)는 UC 버클리 Dawn Song 교수 그룹 소속 박사후 연구원입니다. Out-of-Distribution(OOD) 탐지 및 오픈월드 표현 학습으로 박사 학위를 받았으며, 현재는 LLM의 추론 능력과 신뢰성을 연구하는 방향으로 연구 영역을 확장하고 있습니다. "모델이 훈련 분포 바깥의 상황을 얼마나 잘 처리하는가"라는 핵심 질문이 박사과정부터 현재까지 일관되게 이어지고 있습니다.

2026년에는 에이전트의 실제 업무 수행 능력을 평가하는 대규모 벤치마크 Agents' Last Exam(ALE)의 제1저자로 이름을 올렸습니다. 250명 이상의 산업 전문가와 협력해 설계한 이 벤치마크는 2026년 6월 공개 직후 Hugging Face 오늘의 논문 1위를 기록하였으며, 최고 성능 AI 에이전트의 통과율이 2.6%에 그침을 보여 AI 에이전트 과대평가 논쟁에 결정적인 데이터를 제공했습니다.

OOD 연구에서 LLM 추론 연구로의 전환은 표면상 방향 전환처럼 보이지만, 두 영역 모두에서 동일한 문제의식이 관통하고 있습니다. 전통적인 머신러닝 신뢰성 연구 기반 위에서 LLM을 바라보는 시각은 능력 과대평가가 만연한 분야에서 냉정한 평가 기준을 제시하는 데 기여하고 있습니다.

생애

선이유는 위스콘신-매디슨 대학교 컴퓨터과학과에서 Sharon (Yixuan) Li 교수의 지도 아래 박사 학위를 받았습니다. 학위 논문은 오픈월드 머신러닝 시스템의 신뢰성을 주제로, OOD 탐지, 오픈월드 표현 학습(ORL), 해석 가능성의 세 축으로 구성되었습니다. 위스콘신-매디슨 시절에는 OOD 탐지를 위한 에너지 기반 점수, 특징 공간 정규화 등 여러 방법론을 제안하며 이 분야의 주요 연구자로 자리를 잡았습니다.

박사 학위 취득 후에는 UC 버클리로 옮겨 Dawn Song 교수 그룹에서 박사후 연구원으로 활동하고 있습니다. Dawn Song 교수는 UC 버클리의 보안 및 AI 안전 분야 석학으로, 선이유의 에이전트 신뢰성 연구와 방향이 일치합니다. 버클리에서의 연구는 LLM의 추론 능력, 특히 수학 문제와 코드, 에이전트 태스크에서의 OOD 일반화 가능성에 집중되어 있습니다. 강화학습 기반으로 LLM의 잠재 능력을 이끌어내는 방법론도 병행 탐구하고 있습니다.

GitHub 핸들은 sunyiyou이며, 관련 코드와 데이터셋이 공개되어 있어 재현 연구에 친화적인 편입니다. ALE 논문은 arXiv:2606.05405로 공개되어 있으며, 공개 직후 X에서 직접 "최고 에이전트 통과율 2.6%"를 공유하며 큰 화제를 모았습니다.

업적

NeurIPS 2025에서 발표한 "OMEGA: Can LLMs Reason Outside the Box in Math?"는 현재 언어 모델들이 수학 추론에서 어디까지 일반화할 수 있는지를 체계적으로 평가한 논문입니다. 훈련 데이터 분포를 벗어난 문제에서 모델의 성능이 얼마나 급격히 하락하는지를 보여주어, 추론 능력에 대한 과도한 낙관론에 경종을 울렸다는 평가를 받습니다.

2026년 6월 공개된 Agents' Last Exam(ALE)은 250명 이상의 산업 전문가와 협력하여 설계한 에이전트 벤치마크로, O*NET/SOC 2018 미국 직업 분류 체계를 기반으로 55개 세부 분야, 13개 산업 클러스터에 걸친 1,490개 이상의 태스크를 포함합니다. 최고 난이도 계층에서 상위 에이전트들의 통과율이 2.6%에 그쳐, 현재 AI 에이전트와 실제 경제적 가치 창출 사이의 간극을 실증적으로 보여주었습니다. 이 논문은 "AI가 2026~2027년에 대부분의 직업에서 인간을 능가할 것"이라는 업계 전망에 직접적인 반박 데이터를 제시했다는 점에서 주목받았습니다.

박사과정 중 발표한 에너지 기반 OOD 탐지(NeurIPS 2020)는 이 분야에서 가장 많이 인용되는 방법론 중 하나로, 소프트맥스 점수 기반 방법의 한계를 에너지 함수로 대체하는 아이디어를 제시했습니다.

여담

선이유는 OOD 탐지 연구자로 이름을 알린 뒤 LLM 연구로 넘어온 이력이 독특합니다. 전통적인 머신러닝 신뢰성 연구 기반 위에서 LLM을 바라보는 시각은, 능력 과대평가가 만연한 분야에서 냉정한 평가 기준을 제시하는 데 기여하고 있습니다.

ALE 공개 직후 X(트위터)에서 직접 "최고 에이전트 통과율 2.6%"를 공유하며 화제를 모았고, 에이전트 과대평가 논쟁에 불을 지피는 역할을 했습니다. 산업 전문가 250인 이상과 협력해 직업 분류 체계 기반 평가 태스크를 설계한 것은, AI 에이전트의 실용적 가치를 측정하는 접근법으로서 기존 학술 벤치마크와 구별됩니다.

"LLM이 훈련 분포 밖에서 얼마나 일반화하는가"라는 질문은 박사과정의 OOD 탐지 연구부터 현재의 에이전트 벤치마크까지 일관되게 흐르는 핵심 문제의식입니다. 이 관점에서 ALE는 단순한 벤치마크가 아니라 OOD 일반화 연구의 연장선에 있는 작업으로 볼 수 있습니다.

주요 논문

• Energy-Based Out-of-Distribution Detection (NeurIPS 2020) — 소프트맥스 점수 한계를 에너지 함수로 대체한 OOD 탐지 방법론
• KNNOOD: Out-of-Distribution Detection with Pre-trained Models (2022) — 사전 학습 모델을 활용한 KNN 기반 OOD 탐지
• Out-of-Distribution Generalization via Distributionally Robust Optimization (2021) — 분포 강건 최적화를 통한 OOD 일반화
• OpenMix: Exploring Outlier Samples for Misclassification Detection (CVPR 2023) — 이상치 샘플을 활용한 오분류 탐지
• Revisiting Mahalanobis Distance for OOD Detection (2022) — OOD 탐지에서 마할라노비스 거리 재검토
• Semantic Uncertainty: Linguistic Invariances for Uncertainty Estimation in NLP (2023) — NLP 불확실성 추정에서 언어적 불변성 활용
• OMEGA: Can LLMs Reason Outside the Box in Math? (NeurIPS 2025) — LLM 수학 추론의 분포 외 일반화 한계 평가
• RL Grokking Recipe: Eliciting LLM Capabilities via Reinforcement Learning (2025) — 강화학습으로 LLM 잠재 능력 발현 방법론
• Agents' Last Exam (ALE) (2026) — 실제 직업 분류 기반 1,490개 태스크로 AI 에이전트 역량 평가, 최고 통과율 2.6% 확인