Iason Gabriel

🏷️ 머신러닝 LLM

Iason Gabriel은 Google DeepMind에서 AGI and Society Lead, 시니어 스태프 리서치 사이언티스트를 맡고 있습니다. 정치이론과 도덕철학을 배경으로 AI 정렬과 AI 윤리 분야에 진입한 연구자입니다.

대표 성과는 "Artificial Intelligence, Values and Alignment"(Minds and Machines, 2020, arXiv:2001.09768)입니다. 이 논문은 AI 정렬 문제를 철학적으로 정의하면서, '지시 따르기 vs. 의도 읽기 vs. 드러난 선호 vs. 이상적 선호 vs. 이익 vs. 가치'를 정렬 대상으로 구분합니다. AI 윤리 분야에서 가장 광범위하게 인용되는 기초 논문 중 하나입니다. 2024년에는 "The Ethics of Advanced AI Assistants"(arXiv:2404.16244)를 발표해 자율 에이전트형 AI 시스템의 윤리를 가치 정렬, 웰빙, 경제적 영향, 사회적 배포까지 포괄적으로 분석했습니다.

From AGI to ASI에서 Gabriel의 역할은 그의 직함 자체가 증명합니다. 보고서의 §6 ASI 목표, 도구적 수렴, 자율성 논의와 §7 AI 안전·사회 섹션은 그의 도덕철학·사회 영향 관점이 깊이 반영돼 있습니다. DeepMind 내에서 Allan Dafoe(프론티어 거버넌스 디렉터)와 함께 AGI 이후 사회 준비를 위한 연구를 이끌고 있습니다.