유니콘은 논문을 쓰지 않는다

🏷️ 정보 LLM AI평가

이 글은 Science 보도를 참고하여 작성했습니다.

화제가 된 연구 하나를 소개하겠습니다. bioRxiv에 올라온 「Negligible participation in the scientific literature of AI unicorn startups」입니다. 조사 대상은 1998년부터 2025년 사이 기업가치 10억 달러를 넘긴 AI 스타트업 317곳 전수입니다. 어떤 내용인가 살펴보겠습니다.

  1. 317곳 중 절반 이상이 논문이나 프리프린트에 주요 저자로 참여한 적이 한 번도 없다.
  2. 이들을 전부 합쳐도 2025년 AI 논문 1,000편 중 1편, 전체 문헌의 0.1%이다.

이 기업들은 왜 논문을 쓰지 않을까요?

구조적인 문제가 조금 있습니다. 보통은 공개한 발견을 특허로 보호할 수 있습니다. AI 분야는 그렇지 않습니다. 아키텍처나 학습 기법을 공개하면 경쟁자가 곧바로 가져다 씁니다. 공개해서 얻는 것이 명성뿐이라면, 명성이 이미 충분한 회사는 공개할 이유가 없습니다.

논문이라는 것이 느려서이기도 합니다. 스타트업의 주기는 몇 주에서 몇 달인데 피어리뷰는 몇 달에서 몇 년이 걸립니다. 심사가 끝날 즈음이면 결과가 낡아버리겠죠.

Stanford의 John Ioannidis는 과학을 재편한다는 분야가 정작 과학적 문서를 남기지 않는 역설을 지적하며, 에너지 사용량과 안전성 같은 사회적 영향을 평가하기 어려워진다고 말합니다.

"안 쓴다"와 "안 센다"

프런티어 랩들이 정말로 아무것도 안 내는 것은 아닙니다. 기술 리포트, 시스템 카드, 모델 카드, 엔지니어링 블로그는 계속 나옵니다. GPT나 Claude의 시스템 카드에는 안전 평가 결과가 수십 페이지씩 실립니다. 하지만 이것들은 DOI가 없고 arXiv에도 없습니다. 문헌 집계에 잡히지 않습니다. 그들은 사실 아무 정보도 공개하지 않는 것이 아닙니다. 그들의 공개물은 인용 가능한 형태가 아니라는 겁니다.

이건 꽤 중요한 차이입니다. 시스템 카드는 회사가 언제든 수정하거나 내릴 수 있고, 버전 관리가 되지 않으며, 외부 검증 절차를 거치지 않습니다. 우리가 5년 뒤에 2026년의 어떤 주장을 확인하려 할 때 참조할 고정된 문서가 없습니다.

HF Daily Papers 상위권을 며칠만 세어 보면 분포가 눈에 들어옵니다. 중국 기업 랩(Alibaba, Moonshot, DeepSeek, Zhipu, ByteDance), 중국 대학, 미국·유럽 대학, 그리고 소수의 산업 연구소. 미국 프런티어 랩의 이름은 거의 없습니다. 그러니까 '요즘 AI 연구'라고 부르며 읽는 것은 AI 자본의 대부분이 몰려 있는 곳에서 나온 것이 아닙니다.

실제로 5%의 기관이 인용의 90%를 가져간다는 집계가 있습니다. 공개하는 소수가 인용을 독식하고, 공개하지 않는 다수가 돈을 법니다. 이 집합은 거의 겹치지 않습니다.

오픈웨이트

중국 오픈웨이트 진영은 이상합니다.

DeepSeek, Qwen, Zhipu, Moonshot은 모델을 낼 때마다 기술 리포트를 함께 냅니다. 아키텍처, 학습 데이터 구성, 하이퍼파라미터, 실패한 시도까지 적는 경우도 있습니다. 최근 Qwen-UI-Agent 리포트는 56페이지에 실패 패턴 분류표까지 실었습니다.

후발주자에게 공개는 비용이 아니라 유통 전략입니다. 가중치와 방법을 공개해서 생태계를 자기 쪽으로 끌어오는 것이 폐쇄형 선두를 따라잡는 경로입니다. 선두는 공개할수록 잃고, 추격자는 공개할수록 얻습니다. 문화 차이가 아니라 경쟁 위치의 차이입니다. 지금의 오픈웨이트 진영이 선두가 되면 입장이 뒤바뀔 수도 있겠죠.

마무리

이 상태가 문제인 이유는 검증 때문이라고 했습니다. 안전성이나 에너지 사용량 같은 사회적 영향을 외부에서 평가하려면 고정되고 인용 가능한 문서가 필요한데, 지금 가장 큰 시스템에 대해서는 그런 문서가 없습니다. 자발적 공개를 기대하기 어렵다면, 남는 선택지는 제도뿐일지도 모릅니다. 그렇다면 사회를 위해 프런티어 랩의 정보 공개를 제도로 강요해야 하나요? 그건 또 다른 복잡한 문제죠.

그래서 독점 시장이 아닌 것이 다행일지도 모릅니다. 프런티어 랩도 오픈웨이트 모델을 경계해야 하는 형국입니다. 언제든지 입장이 바뀔 수 있죠. 누군가는 선택을 강요받아야 하고, 그것이 시장 건전성에 좋은 영향을 미치리라 생각합니다.