Xunhao Lai

베이징대학교 Yuan Pei College 학부를 졸업하고 지능과학기술학원 석사과정에 재학 중이다. 재학 중 MiniMax와 협력 연구를 이어오며 장문 컨텍스트 처리와 효율적 어텐션 메커니즘 설계에 집중해왔다.

ICLR 2025 Oral로 채택된 FlexPrefill(유연한 희소 어텐션) 논문의 공저자로, 어텐션 계산 효율화 분야에서 이미 주목받은 연구 이력을 갖고 있다. FlexPrefill의 문제의식 — 고정 패턴이 아닌 내용 기반 동적 어텐션 선택 — 이 MiniMax Sparse Attention으로 이어진다.

MiniMax Sparse Attention 논문에서는 1저자로서 GQA 그룹별 경량 인덱서 설계, KL 정렬 손실 훈련 방식, exp-free Top-k 커널 구현을 주도했다. 지도 교수 및 소속 연구실은 공개되지 않았다. Pengyu Zhao의 MiniMax LLM 팀과 협력해 109B MoE 스케일 전훈련 실험까지 함께 진행했다.