Leon Bottou
레옹 보투(Léon Bottou)는 프랑스 출신의 머신러닝 연구자로, 대규모 데이터에서 *확률적 경사 하강법(SGD)*이 실용적이고 효율적인 학습 알고리즘이라는 것을 이론·실험 양쪽에서 증명한 인물이다. 현재 Meta AI Research(FAIR) 시니어 연구원이다.
École Polytechnique에서 1987년 디플롬, École Normale Supérieure에서 1988년 응용수학·전산학 학위, Université Paris-Sud에서 1991년 박사 학위를 받았다. 1991~1992년 AT&T Bell Labs Holmdel 연구소에서 박사후 연구원으로 얀 르쿤 그룹에 합류해 SN2 connectionist simulator를 개발하였다. 1989년 얀 르쿤의 손글씨 우편번호 합성곱 신경망 학습에 쓰인 시뮬레이터가 바로 이것이다.
1992년에서 1995년 사이 파리에서 머신러닝 응용 스타트업 Neuristique를 운영하였고, 1995년 다시 Bell Labs로 돌아와 Graph Transformer Networks를 개발하였다. 이 방법은 1998년 Gradient-Based Learning Applied to Document Recognition(LeNet-5 논문)에서 손글씨 인식 시스템의 정식화에 사용되었다. 1996~2002년에는 AT&T Labs에서 DjVu 이미지 압축 기술을 주도하였다.
2002~2010년 NEC Laboratories America 프린스턴 연구소에서 대규모 데이터 학습, 온라인 학습, 확률적 최적화를 연구하였다. 이 시기에 발표한 Stochastic Gradient Tricks와 Large-Scale Machine Learning with Stochastic Gradient Descent(2010)가 현대 딥러닝 학습 시스템의 표준이 되었다. bias-variance dilemma in stochastic learning에 대한 일련의 논문으로 2018년 NeurIPS Test of Time 상을 수상하였다.
2015년 Meta FAIR에 합류해 인과 추론과 학습 시스템의 결합을 연구하고 있다.