Pacing the Frontier - AI를 만드는 1,100명이 정부에 감속 장치를 만들어 달라고 한 이유

이 글은 Over 1100 AI Employees Petition for US-Backed Pacing Mechanism (TechTimes, 2026-07-28)를 참고하여 작성했습니다.

2026년 7월 28일, 프런티어 AI 기업 직원 1,100명 이상이 공개서한에 서명했습니다. 요구는 미국 정부가 국제적인 페이싱 메커니즘(pacing mechanism)의 기술·거버넌스 도구를 만드는 노력을 지원하라는 것입니다.

AI가 사람이 안전하게 감독할 수 있는 속도보다 빨라지는 날이 오면, 그때 여러 나라가 함께 검증 가능하게 늦출 수 있어야 하는데, 그런 장치는 필요해진 다음에 만들 수 없으니 지금 지어 두라는 것입니다.

몇 시간 만에 OpenAI와 Anthropic이 회사 차원에서 이 입장을 추인했습니다.

서명자

이 서한이 2023년의 pause letter와 갈리는 지점은 서명자 명단입니다.

그때는 바깥에 있는 사람들이 안에 대고 멈추라고 했습니다. 이번에는 만드는 사람들이 자기 회사를 포함한 산업 전체를 대상으로 장치를 만들어 달라고 합니다.

이름들의 성격을 보면 명단의 무게가 드러납니다. 파호츠키는 GPT-4와 o1 계열을 이끈 사람입니다. 자오성자는 ChatGPT와 o1의 기반 기여자였다가 Meta로 옮겨 수석과학자가 된 사람입니다. 즉 지금 프런티어를 실제로 밀고 있는 당사자들입니다. 안전 담당자만 서명한 문서가 아니라는 뜻이 여기서 나옵니다.

동시에 안카 드라간 같은 안전·정렬 쪽 총괄도 함께 있습니다. 능력 개발과 안전 양쪽이 같은 문서에 이름을 올린 구성입니다.

무엇을 요구했나

서한 본문은 구체적인 정책을 못 박지 않습니다. 방향만 제시하고 도구 개발을 정부에 넘깁니다. 언급되는 역량 계열은 대략 다음과 같습니다.

• 컴퓨트와 학습 실행의 투명성. 프런티어 학습 실행을 추적하고 발표된 주장을 검증할 수 있게 하는 것
• 공유 평가 프로토콜과 사고 공개 규범
• 특정 연구 계열을 실제로 중단했음을 증명하는 기술적 검증 방법
• 자동화 가능한 연구개발 인프라에 대한 수출·접근 통제
• 각국이 단독이 아니라 함께 움직일 수 있게 하는 국제 협의체

가장 명시적인 우려 대상은 자기 자신을 개선하는 AI입니다. AI가 AI 연구를 대신하기 시작하면 사람의 감독 주기보다 개발 주기가 빨라지고, 그때부터는 늦추고 싶어도 늦출 방법이 없다는 논리입니다.

검증 가능한 감속

이 서한에서 진짜 어려운 단어는 "검증 가능한"입니다. 여기가 기술 문제입니다.

핵학 군축이 검증 가능했던 이유는 우라늄 농축 시설이 물리적으로 크고, 위성으로 보이고, 사찰관이 들어가 계량할 수 있었기 때문입니다. AI에는 그런 물리적 앵커가 무엇인지가 아직 정리되지 않았습니다.

후보는 세 층입니다.

컴퓨트 계량. 가장 현실적인 층입니다. 프런티어 학습에 필요한 가속기는 소수 업체가 만들고 소수 데이터센터에 들어갑니다. 칩 출하와 클러스터 위치를 추적하면 누가 대규모 학습을 돌릴 능력이 있는지는 파악됩니다. 이미 수출 통제라는 형태로 부분적으로 작동하고 있습니다. 한계는 이게 능력의 상한을 재는 것이지 실제로 무엇을 학습시켰는지를 재는 것은 아니라는 점입니다.

학습 실행 증명. 훨씬 어렵습니다. 어떤 랩이 특정 종류의 학습을 하지 않았다는 것을 외부가 확인하려면, 그 랩의 인프라 안에서 무슨 연산이 돌았는지에 대한 신뢰할 수 있는 기록이 있어야 합니다. 신뢰 실행 환경(TEE)을 가속기 수준에 붙이거나, 학습 로그에 대한 암호학적 증명을 남기는 방향이 연구되고 있지만 아직 프런티어 규모에서 운용된 사례는 없습니다. 게다가 이런 기록은 그 자체로 최고 수준의 영업비밀입니다.

모델 가중치 감사. 가장 직접적이면서 가장 정치적으로 어렵습니다. 가중치를 넘겨받아 검사하는 순간 그 자체가 유출 경로가 됩니다. 어떤 랩도 경쟁사나 외국 정부에 가중치를 열지 않습니다.

서한이 정책을 특정하지 않은 이유가 여기 있다고 봅니다. 세 층 중 지금 확실히 되는 것은 첫 번째뿐이고, 두 번째와 세 번째는 아직 연구 과제입니다. "지금 지어 두라"는 요구는 정확히 이 격차를 가리킵니다.

회사가 몇 시간 만에 추인한 것

직원 서한에 회사가 하루도 안 돼 올라탄 것은 해석이 필요한 대목입니다.

세 가지로 읽힙니다.

첫째, 진짜 합의입니다. 서명자에 회사의 최고위 기술직이 포함되어 있으니 회사 입장과 직원 입장이 애초에 갈라져 있지 않았을 수 있습니다. 이 경우 서한은 반대가 아니라 조율된 발표에 가깝습니다.

둘째, 규제 선점입니다. 어차피 규제가 온다면 그 형태를 지금 만드는 쪽에 참여하는 편이 낫습니다. "국제적 조율"과 "검증 가능성"이라는 프레임은 이미 프런티어에 있는 기업에 불리하지 않습니다. 컴퓨트 계량과 학습 실행 증명을 감당할 수 있는 조직은 대형 랩뿐입니다.

셋째, 경쟁 조건 정렬입니다. 서한을 지지하는 쪽의 논리는 이렇습니다. 상호 검증 장치가 없으면 혼자 자제하는 것은 경제적으로 비합리적입니다. 늦추고 싶어도 상대가 안 늦추면 손해만 봅니다. 그래서 자제를 가능하게 하려면 검증부터 있어야 한다는 것입니다. 이건 죄수의 딜레마를 푸는 표준적인 방식이고, 냉소적으로 볼 이유가 딱히 없습니다.

비판도 있습니다. 랩들이 한 손으로는 개발을 가속하는 도구를 계속 출시하면서 다른 손으로 규제를 요구한다는 지적입니다. 타당한 지적입니다. 다만 이 서한이 요구하는 것은 지금 속도를 줄이라는 게 아니라 나중에 줄일 수 있는 능력을 갖추라는 것이라, 두 행동이 논리적으로 모순은 아닙니다.

오픈웨이트는 어떻게 되나

이 메커니즘의 가장 약한 고리입니다.

페이싱 메커니즘은 소수의 식별 가능한 주체가 소수의 대규모 클러스터에서 학습을 돌린다는 전제 위에 서 있습니다. 가중치가 공개되고 나면 그 전제가 깨집니다. 배포된 모델을 회수할 방법은 없고, 파인튜닝은 학습보다 훨씬 적은 컴퓨트로 됩니다.

같은 주에 Anthropic이 오픈웨이트 모델 자체를 금지한 적은 없다고 선을 그으면서 세 가지 대안을 제시한 것과 겹쳐 읽을 만합니다. 대중국 칩 수출 통제, 산업적 규모의 증류 단속, 개폐 여부와 무관한 사전 안전성 시험 의무화입니다. 셋 다 배포 이후가 아니라 배포 이전과 학습 인프라 단계를 겨냥합니다. 페이싱 메커니즘의 논리와 같은 방향입니다.

즉 검증의 앵커를 가중치가 아니라 컴퓨트와 사전 시험에 두면 오픈웨이트도 부분적으로는 걸립니다. 학습을 돌리는 순간은 어차피 큰 클러스터가 필요하니까요. 다만 이미 풀린 가중치에 대해서는 아무 장치도 작동하지 않습니다. 서한이 미래형으로 쓰인 이유이기도 합니다.

시나리오와 서한의 차이

7월에 감속을 다룬 문서가 하나 더 있었습니다. AI Futures Project가 7월 9일 공개한 AI 2040: Plan A입니다.

둘은 층위가 다릅니다. AI 2040은 시나리오입니다. 누가 무엇을 멈추고 어떻게 확인하고 몰래 재개하면 무엇으로 억제하는지까지를 하나의 이야기로 묶어 검증·연구 공개·컴퓨트 억지라는 메커니즘을 설계해 보인 문서입니다. 외부 연구 기관이 만든 청사진입니다.

이번 서한은 청사진이 아니라 요구입니다. 설계는 안 하고 "정부가 이 도구를 만들라"고만 합니다. 대신 서명자가 안에 있는 사람들입니다.

같은 문제를 놓고 하나는 어떻게 할지를 그렸고 하나는 누가 할지를 지목했습니다. 3주 간격으로 나온 두 문서가 이렇게 갈라져 있다는 사실 자체가, 이 논의가 아직 설계 단계에서 실행 주체를 못 정한 상태라는 뜻입니다.

남는 것

계기가 된 사건을 짚어야 합니다. 직전 주 OpenAI의 모델이 격리 환경을 벗어나 허깅페이스 인프라에 침입한 일이 서한의 배경으로 지목됩니다. 그 사건 자체는 이후 보안 전문가들 사이에서 "모델이 통제를 벗어난 것"인지 "명세를 예상 밖으로 만족시킨 것"인지를 두고 해석이 갈렸습니다.

흥미로운 것은 어느 쪽 해석을 택하든 서한의 요구가 약해지지 않는다는 점입니다. 반란이었다면 감속 장치가 필요하고, 명세 게이밍이었다면 사람이 의도를 정확히 적어 넣지 못한다는 증거라서 역시 감속 장치가 필요합니다.

제 생각에는 이 서한의 실질적 가치는 요구 내용보다 서명 구성에 있습니다. 검증 기술은 아직 없고 국제 협의체는 더 없습니다. 그런데 프런티어를 실제로 미는 사람들이 "우리가 미는 속도를 언젠가 외부가 확인하고 늦출 수 있어야 한다"고 서명했다는 사실은, 적어도 그 기술을 연구할 예산과 정당성을 만들어 줍니다. 실제로 작동하는 페이싱 메커니즘이 나오려면 몇 년이 걸릴 것이고, 그때쯤 이 서한은 출발점으로 인용될 것 같습니다.

이 글은 TechTimes 보도와 후속 회사 추인 보도를 참고했습니다.