Li Dong

Li Dong은 Microsoft Research Asia의 시니어 NLP 연구자입니다. UniLM 시리즈로 가장 유명한데, 2019년 NeurIPS에서 발표된 Vaswani et al 이후 인코더-디코더 통합 사전학습의 대표 라인으로 자리 잡았습니다.

대표 연구는 네 갈래로 정리됩니다. 첫째, UniLM·UniLMv2로 단방향·양방향·시퀀스-투-시퀀스 사전학습을 단일 모델에 통합. 둘째, MiniLM으로 사전학습 트랜스포머의 task-agnostic distillation. 셋째, InfoXLM으로 정보이론 기반 cross-lingual 사전학습. 넷째, Kosmos 시리즈로 멀티모달 foundation model 라인.

Furu Wei와는 거의 모든 주요 프로젝트에서 공동 책임자 라인을 형성하며, MSR Asia의 NLP/멀티모달 연구를 사실상 둘이서 끌고 갑니다. 박사 과정 인턴들이 본인 라인에서 학위를 마치고 정규직으로 합류하는 패턴이 자주 보이고, 본 논문 AsyncThink에서 Zewen Chi와 Qingxiu Dong 모두 그가 멘토를 봐준 인턴 출신입니다.

대규모 사전학습에서 agentic LLM으로 그룹 전체가 라인을 이동 중이며, AsyncThink가 그 전환의 가시적 결과 중 하나입니다.