공 루이하오

🏷️ 인물 LLM 오픈소스

개요

공 루이하오(Gong Ruihao, 龚瑞豪)는 SenseTime(상탕테크놀로지)의 Senior Research Manager이자 베이항대학교(Beihang University, BUAA) SKLSDE 박사과정 연구원입니다. 거대 모델 경량화와 양자화 분야에서 독보적인 위치를 차지하고 있으며, LLM부터 VLM까지 다양한 모달리티와 정밀도를 아우르는 압축 알고리즘 연구와 오픈소스 툴킷 개발을 이끌고 있습니다.

그의 대표 작업은 두 갈래입니다. 하나는 극저비트 post-training quantization(PTQ)의 안정성을 높인 QDrop(ICLR 2022), 다른 하나는 LLM에서 VLM까지 정수·부동소수점·혼합 정밀도에 걸쳐 다양한 양자화 및 희소화 알고리즘을 하나의 툴킷으로 통합한 오픈소스 LLMC(EMNLP 2024 Industry Track)입니다. 두 작업 모두 학술적 기여와 실제 배포 가능성을 함께 추구한다는 점이 특징입니다.

생애

공 루이하오는 2017년부터 SenseTime 인턴으로 활동을 시작하며 컴퓨터비전 시스템과 모델 양자화에 입문했습니다. 이후 SenseTime의 연구 조직에서 정식으로 경력을 쌓으면서, 효율 추론(efficient inference)과 배포 자동화 분야의 핵심 인물로 성장했습니다. 현재는 SenseTime 내부에서 대형 모델 경량화 라인 전반을 총괄하는 역할을 맡고 있습니다.

학술적으로는 베이항대학교 국가중점실험실(SKLSDE)에서 박사 과정을 병행하며 연구를 이어가고 있습니다. 산업 현장에서 실제 모델 압축 파이프라인을 운영하면서 동시에 학술 연구를 진행하는 이중 트랙 경력이 그의 연구에 실용성과 깊이를 함께 더하고 있습니다. Neural Networks 저널의 "Model Compression in the Era of LLMs" 특집 게스트 에디터도 맡아 학술 커뮤니티에서의 입지를 넓혔습니다.

업적

QDrop(ICLR 2022)은 극저비트(ultra-low-bit) PTQ에서 발생하는 불안정성 문제를 체계적으로 분석하고 해결한 연구입니다. 양자화 오류의 재구성 과정에서 드롭아웃을 적용하는 간단한 아이디어로 W2/W3/W4 환경에서 일관된 성능 개선을 달성해 PTQ 분야에서 널리 인용되는 기준 연구가 되었습니다.

LLMC(EMNLP 2024 Industry Track)는 LLM을 넘어 VLM까지 지원하는 통합 압축 툴킷입니다. 정수(integer) 양자화부터 부동소수점(floating-point) 양자화까지, 단일 비트에서 혼합 정밀도(mixed precision)까지, 그리고 양자화에서 희소화(sparsification)까지 다양한 알고리즘을 플러그 앤 플레이 방식으로 제공합니다. 2025년에는 VLM 압축에 특화한 후속 LLMC+(arXiv 2508.09981)로 확장되었습니다. SenseNova-U1 프로젝트에서는 Senior Project Lead 6인 중 1인으로 참여해 32x 압축률의 X2I 생성을 상용 GPU에서 구현하는 데 기여했습니다.

여담

공 루이하오의 연구 커리어는 "SenseTime 인턴에서 시니어 매니저"로 성장한 사례로 SenseTime 내부에서 자주 언급됩니다. 단일 기업 안에서 기초 연구부터 배포 인프라까지 전 스택을 경험한 점이 그가 가진 가장 독특한 강점입니다.

LLMC를 단순한 연구 논문이 아니라 지속 관리되는 오픈소스 툴킷으로 운영한다는 점도 주목할 만합니다. 논문 발표 이후에도 새로운 알고리즘과 모델을 통합하며 업데이트하는 방식은, 커뮤니티가 실제로 사용하는 도구로 자리 잡게 만드는 중요한 요인입니다.

주요 논문