송 새벽

개요

송 새벽(Dawn Xiaodong Song, 宋晓冬)은 UC 버클리 컴퓨터과학과 교수이자 Berkeley Center for Responsible Decentralized Intelligence(RDI) 공동 소장입니다. 컴퓨터 보안, AI 안전, 딥러닝, 프라이버시, 탈중앙화 기술을 망라하는 폭넓은 연구로 분야 전반에 영향을 미치고 있습니다.

컴퓨터 보안 분야 최다 인용 학자(AMiner Award, Most Influential Scholar)로, 보안과 딥러닝 분야 최우수 논문상을 10회 이상 수상했습니다. 2025년 4월에는 미국 예술과학아카데미(American Academy of Arts and Sciences) 회원으로 선출되었습니다.

연쇄 창업자이기도 합니다. 2018년 프라이버시 중심 블록체인 컴퓨팅 플랫폼 Oasis Labs를 공동 창업했으며, Inc. 여성 창업자 100인, Wired25 혁신가 명단에 이름을 올렸습니다. MacArthur Fellowship, Guggenheim Fellowship, NSF CAREER Award를 수상했으며 ACM, IEEE 펠로우입니다.

생애

1975년 중국 랴오닝성 다롄에서 태어났습니다. 고등학교 시절 수학 올림피아드 특수반을 거쳤고, 칭화대학교 물리학과에 진학했습니다. 물리학을 전공했지만 컴퓨터과학의 매력을 느껴 카네기멜런대학교에서 컴퓨터과학 석사 학위를 받고, 1996년부터 2002년 사이 UC 버클리에서 컴퓨터과학 박사 학위를 취득했습니다.

박사 직후 2002년부터 2007년까지 카네기멜런대학교 조교수로 재직했고, 2007년 UC 버클리 교수로 자리를 옮겨 현재까지 재직 중입니다. 물리학 전공자로 출발해 컴퓨터과학으로 이동한 이력은 수학적으로 엄밀한 증명을 추구하면서도 실제 배포 환경의 취약점을 실증적으로 드러내는 연구 방식에 영향을 미쳤다는 평가를 받습니다.

2018년에는 Oasis Labs를 공동 창업했으며, 이 플랫폼은 블록체인 기반 프라이버시 보호 컴퓨팅 환경을 목표로 했습니다. 학자이면서 창업가의 역할을 겸하는 커리어 모델로도 주목받았습니다.

업적

연구 영역이 워낙 넓어 단일한 대표 업적보다는 여러 분야에 걸친 복수의 핵심 기여로 평가됩니다. 컴퓨터 보안에서는 네트워크 침입 탐지, 취약점 분석, 바이너리 분석 등에서 다수의 기초 연구를 발표했습니다. 딥러닝 보안 분야에서는 적대적 공격과 방어, LLM 신뢰성 문제를 일찍부터 제기한 연구자 중 한 명입니다.

2025년에는 Agentic AI MOOC 3기를 개설해 전 세계 3만 2천 명 이상이 수강 등록했으며, 8월에는 Berkeley RDI가 주최한 Agentic AI Summit에 현장 참석자 2천 명 이상, 온라인 참석자 4만 명 이상이 참여하는 성과를 거뒀습니다. AgentX-AgentBeats 경쟁에는 2025년 봄 약 1,000팀, 가을부터 2026년 봄까지 100개국 이상에서 1,300팀 이상이 참여했습니다.

2026년 4월에는 ICLR에서 "Agents in the Wild: Safety, Security, and Beyond" 워크숍을 직접 주관했습니다. 에이전트 AI 보안에 대한 공식 프레임워크를 담은 논문도 arXiv에 공개하며 에이전트 AI 안전 연구의 체계화를 주도하고 있습니다. Berkeley RDI는 2025년 한 해 동안 Best Paper Award와 각종 학술 수상을 잇따라 거두며 에이전트 AI 안전 연구의 핵심 기관으로 자리매김했습니다.

여담

보안 연구자로 경력을 시작해 블록체인, 그리고 에이전트 AI 안전까지 연구 방향을 지속적으로 확장해온 궤적이 인상적입니다. 각각이 독립적인 연구 주제임에도 "신뢰할 수 없는 환경에서 시스템을 안전하게 만드는 방법"이라는 공통 질문을 중심으로 묶여 있습니다.

2025년 4월 미국 예술과학아카데미 회원 선출은 Berkeley RDI 공동 소장으로서의 에이전트 AI 연구와 보안 분야의 오랜 기여가 동시에 인정받은 결과입니다. MIT Technology Review TR-35, ACM SIGSAC Outstanding Innovation Award도 수상했습니다.

2026년에는 GTP 2026 컨퍼런스에서 "안전하고 보안적인 에이전틱 AI"를 주제로 기조 강연을 맡는 등, 에이전트 시대의 AI 안전 문제를 대중과 학계 양쪽에 일관되게 설파하고 있습니다.

주요 논문

Dynamic Taint Analysis: Automatic Detection, Analysis, and Signature Generation of Exploit Attacks on Commodity Software (2005) -- 바이너리 취약점 자동 탐지를 위한 동적 오염 분석 (NDSS 2005)
BitBlaze: A New Approach to Computer Security via Binary Analysis (2008) -- 바이너리 분석 통합 플랫폼 제안 (ICISS 2008)
Automatic Patch-Based Exploit Generation Is Possible: Techniques and Implications (2008) -- 패치 기반 자동 익스플로잇 생성 가능성 실증 (IEEE S&P 2008)
SoK: Eternal War in Memory (2013) -- 메모리 안전 취약점 방어 기법 전반 체계화 (IEEE S&P 2013)
Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning (2017) -- 데이터 포이즈닝 기반 딥러닝 백도어 공격 실증
Adversarial Example Defenses: Ensembles of Weak Defenses Are Not Strong (2017) -- 약한 방어 앙상블이 적대적 예제에 취약함을 규명
Generating Natural Language Adversarial Examples (2018) -- 자연어에서 의미를 보존하며 적대적 예제를 생성하는 방법
Proof of Deep Learning (2018) -- 딥러닝 모델 추론 결과의 검증 가능성 제안
Advances and Open Problems in Federated Learning (2020) -- 연합 학습의 현황과 미해결 과제 정리 (Foundations and Trends in ML)
A Framework for Formalizing LLM Agent Security (2026) -- LLM 에이전트 보안을 형식화하는 프레임워크 제안 (arXiv)