후아젠 루안

🏷️ 인물 머신러닝

개요

후아젠 루안(Huajian Ruan, 阮华健)은 중국 광저우 화난사범대학교(South China Normal University, SCNU) 소속 연구자로, 핵물리 및 양자물질 연구 그룹에서 통계물리학·장론을 배경으로 연구합니다. 광둥 핵과학 중점연구실 계열에 속해 있으며, 물리학의 분석 도구를 LLM의 생성 특성 분석에 적용하는 이른바 물리-AI 교차 연구를 수행합니다.

2026년 6월 arXiv에 게재된 "Generative Criticality in Large Language Model Temperature Scaling"(arXiv: 2606.06238)의 1저자로, 물리학의 상전이(phase transition) 개념으로 LLM의 소프트맥스 temperature 변화에 따른 출력 분포 변화를 분석한 연구를 발표했습니다.

생애

후아젠 루안의 학사·박사 이력 등 세부 경력 정보는 공개 프로필을 통해 확인이 제한적입니다. 화난사범대학교의 핵물리·양자물질 연구 그룹에 소속된 것으로 확인되며, 광둥 핵과학 중점연구실 계열에서 통계물리와 장론을 중심으로 연구를 수행하고 있습니다.

공동 연구자 구성을 보면, 같은 SCNU 소속의 싱위 궈(Xingyu Guo)와 일본 이화학연구소(RIKEN) iTHEMS의 링샤오 왕(Lingxiao Wang)과 함께 이 논문을 완성했습니다. RIKEN iTHEMS는 이론 과학의 다양한 분야를 융합하는 연구소로, 물리학자가 LLM 분석에 관여하는 자연스러운 교류 공간이 되고 있습니다.

업적

루안의 핵심 기여는 LLM의 텍스트 생성을 통계장 프레임워크로 형식화한 것입니다. 토큰 임베딩을 1차원 체인 위의 연속 스핀 변수(continuous spin variable)로 취급하고, 연결된 2점 상관자(connected two-point correlator)로부터 감수율(susceptibility)과 앙상블 평균 임베딩 장에서 질서 파라미터(order parameter)를 정의했습니다.

소프트맥스 temperature T를 조절하며 실험한 결과, 특정 임계 온도 T_c 근방에서 감수율의 급격한 피크가 나타나고, 질서 파라미터가 급변하며, T_c 아래에서는 임베딩이 하나의 의미 방향으로 수렴(collapse)하는 현상을 발견했습니다. 이 결과는 Qwen3 패밀리 0.6B부터 32B까지 다양한 모델 스케일에 걸쳐 강건하게 재현되었으며, 프롬프트 범주도 다양하게 검증했습니다. 이는 LLM의 디코딩 파라미터 조정이 물리계의 상전이와 수학적으로 유사한 구조를 가진다는 점을 보인 것으로, 물리학과 AI의 교차 연구에서 흥미로운 선례입니다.

여담

물리학자가 LLM 분석에 참여하는 흐름은 최근 눈에 띄게 증가하고 있습니다. 통계역학의 평균장 이론, 상전이, 임계 현상 등의 도구가 신경망의 훈련 동역학이나 생성 모델의 거동을 설명하는 데 자연스럽게 활용됩니다. 루안의 연구는 이 흐름 위에 있으며, 물리학의 시각으로 LLM의 hyperparameter(temperature)가 출력에 미치는 영향을 체계적으로 기술하려는 시도입니다.

임계 temperature T_c라는 개념은 실용적으로도 흥미롭습니다. 사용자가 창의적 텍스트 생성을 위해 temperature를 높이거나 정확한 응답을 위해 낮출 때, 그 전환점이 물리적 상전이와 유사한 구조를 가진다면 최적 temperature 설정에 대한 이론적 근거를 제공할 수 있기 때문입니다.

주요 논문