앨런 다포

🏷️ 에이전트 머신러닝 Nature논문

개요

앨런 다포(Allan Dafoe)는 Google DeepMind에서 프론티어 안전 및 거버넌스 디렉터를 맡고 있습니다. 옥스퍼드 마틴 스쿨 AI 거버넌스 이니셔티브(AIGI) 방문 시니어 펠로이자, Cooperative AI Foundation의 창립자 겸 이사입니다. 본래 정치학자로, 예일대학교와 옥스퍼드대학교에서 AI 리스크와 거버넌스를 독립적인 학문 분야로 개척한 선구자로 평가됩니다.

생애

정치학을 전공으로 박사 학위를 취득한 뒤, AI가 국제 안보와 거버넌스에 미치는 영향을 연구하는 분야를 개척했습니다. 예일대학교와 옥스퍼드대학교에서 교수직을 역임하며 AI 거버넌스를 진지한 학술 분야로 정립하는 데 기여했습니다.

옥스퍼드 재직 시절 AI 거버넌스 연구소(GovAI, Centre for the Governance of AI)를 창립했습니다. GovAI는 처음에는 옥스퍼드대학교 내 연구소로 출발했으나 이후 독립 비영리기관으로 발전했으며, 다포는 창립 이사로서 기반을 닦았습니다. 이후 Google DeepMind로 자리를 옮겨 현재까지 프론티어 AI 전략·정책·거버넌스 전반을 총괄합니다.

DeepMind 내에서는 이아손 가브리엘(Iason Gabriel) 등 AGI 사회 영향 연구자들과 긴밀히 협력하고 있습니다. 2025년 2월에는 80,000 Hours 팟캐스트에 출연해 기술 결정론, 협력적 AI, 프론티어 안전을 주제로 심층 인터뷰를 진행했습니다.

업적

가장 널리 인용되는 성과는 "Cooperative AI: Machines Must Learn to Find Common Ground"(Nature, 2021)입니다. Bachrach, Hadfield, Horvitz, Larson, 토레 그래펠(Thore Graepel) 등과 공동 저술한 이 논문은 AI 시스템을 본질적으로 사회적 행위자로 재개념화해야 한다고 주장합니다. 이 논문의 파급력으로 1,500만 달러 규모의 Cooperative AI Foundation이 설립되었습니다.

"AI Governance: A Research Agenda"(GovAI, 2018)는 AI 거버넌스를 독립적이고 엄밀한 연구 분야로 정립하는 초석이 된 문서입니다. AI 정책 연구자와 기관들이 공통으로 참조하는 기준 문서 역할을 합니다.

2015년 발표한 "Anarchy as Architect" 프레임워크는 국제적 무정부 상태가 경쟁력 향상 기술을 선택적으로 살아남게 만든다는 논리를 제시합니다. From AGI to ASI 의 §5.5 의도적 감속 논의에서 이 프레임워크가 직접 인용됩니다.

DeepMind에서는 위험 역량 평가(dangerous capability evaluations), 리스크 평가 및 완화 프로토콜, 프론티어 AI 전략·정책·거버넌스를 총괄합니다. AI 안전의 기술적 차원뿐 아니라 국제 협력과 제도 설계 측면을 동시에 다루는 몇 안 되는 포지션입니다.

여담

정치학자 출신이 AI 거버넌스 분야의 핵심 인물로 자리 잡은 사례로, 기술 연구자와 사회과학자 사이의 경계를 넘나드는 경력을 가지고 있습니다. 동료 연구자들은 그가 정치학의 국제관계론 시각을 AI 안전 논의에 접목한 점을 독보적인 기여로 꼽습니다.

Cooperative AI Foundation은 다포가 Nature 논문을 발표한 직후 설립된 기관으로, AI 시스템 간, 그리고 AI와 인간 간의 협력 문제를 전문적으로 연구합니다. 이 기관은 AI 안전 분야에서 새로운 하위 분야를 만들어낸 사례로 평가받습니다.

토레 그래펠과는 Cooperative AI 논문에서 이미 공저 관계를 맺었으며, 이아손 가브리엘과는 DeepMind 내 AGI 사회 영향 부문에서 긴밀히 협력하고 있습니다. 두 관계 모두 단순한 공저를 넘어 지속적인 연구 협력으로 이어지고 있습니다.

주요 논문