OpenAI 2026년 6월 악의적 AI 사용 보고서

OpenAI는 2024년 2월부터 분기별로 ChatGPT를 악의적으로 사용한 사례를 보고서로 공개하고 있습니다. 2026년 6월 보고서는 지금까지 가장 넓은 범위를 다루는데, 누적 차단 네트워크 수가 40개를 넘었습니다.

보고서의 핵심 메시지는 하나입니다. AI는 사기꾼의 역량을 새롭게 창조하지 않는다. 다만 기존 작업을 더 빠르고 저렴하게 만든다.

북한: 위장 취업

북한과 연계된 행위자들이 ChatGPT를 활용해 가짜 지원자 프로필을 만들었습니다. 이력서, 커버레터, LinkedIn 스타일 소셜 미디어 프로필을 AI가 생성하고, 이를 이용해 서방 기업의 원격 직무에 취업했습니다. 채용이 되면 급여가 북한 정권으로 흘러들어갔습니다.

ChatGPT가 추가한 것은 영어 완성도와 프로필의 일관성입니다. 예전에는 어색한 문체나 앞뒤가 맞지 않는 이력이 경고 신호가 됐지만, AI 지원을 받으면 이 두 가지가 모두 해소됩니다.

캄보디아: 로맨스 스캠의 반자동화

캄보디아에서 운영되는 네트워크는 인도네시아 남성을 주 타깃으로 삼은 로맨스 스캠에 ChatGPT를 연결했습니다. 운영자의 자체 기록에 따르면 한 번에 수백 명의 표적과 동시에 대화를 진행했다고 하는데, OpenAI는 이 수치를 독립 검증할 수 없다고 밝혔습니다.

같은 네트워크 계열에서는 이전 스캠 피해자를 재타깃하는 "회수 사기"도 운영했습니다. 피해자에게 접근해 돈을 돌려받을 수 있다고 속인 뒤 법무법인, 심지어 FBI를 사칭하는 가짜 서류를 AI로 생성했습니다.

영향 공작: 규모는 크고 실질 도달은 작다

보고서에서 반복적으로 등장하는 수치가 있습니다. 수만 개의 게시물을 생성했지만, 실제 반응(공유, 댓글 300 이상)을 받은 것은 150개 미만이라는 패턴입니다.

중국과 연계된 "Sneer Review" 작전은 대만 보드게임에 비판적인 댓글을 집중 투하하고, 이 게임이 국제적으로 외면받고 있다는 허위 기사를 생성했습니다. 러시아의 "Helgoland Bite" 작전은 미국과 NATO를 비판하는 독일어 텍스트를 ChatGPT로 작성했습니다.

AI가 실제로 무엇을 바꿨나

보고서를 읽으면서 주목할 지점은 AI가 사용된 방식입니다. 이 행위자들이 ChatGPT를 쓴 것은 번역, 초안 작성, 프로필 생성처럼 콘텐츠 생산의 마찰을 줄이는 용도입니다. 전략 수립이나 공격 경로 설계에 AI를 쓴 사례는 이번 보고서에서 두드러지지 않습니다.

달리 말하면, AI는 기존 사기의 노동 비용을 낮췄지 새로운 종류의 공격을 만들어내지는 않았습니다. 영향 공작의 경우 규모는 커졌지만 실질 도달은 여전히 낮습니다. 50,000개 게시물 중 300개 이상의 반응을 받은 게 150개 미만이라는 수치는, AI가 콘텐츠 생산은 쉽게 만들었지만 실제 설득력이나 확산력은 여전히 어려운 문제임을 보여줍니다.

OpenAI의 대응 방식

OpenAI는 단순 계정 차단 이상으로 움직이고 있습니다. 내부적으로 탐지한 네트워크 정보를 정부, 다른 AI 회사, 보안 연구자와 공유합니다. 한 플랫폼에서 차단된 네트워크가 다른 모델로 옮겨가는 것을 막기 위한 업계 협력입니다.

분기별 공개 보고서 자체도 방어 도구입니다. 구체적인 작전명과 수법을 공개함으로써 동일 방식의 재사용 비용을 높입니다. 보안 연구자 커뮤니티와 플랫폼들이 같은 패턴을 조기에 탐지할 수 있게 됩니다.

AI 악용 보고서가 쌓일수록 윤곽이 잡히는 것이 있습니다. 지금 위협의 본질은 AI가 인간 공격자보다 더 영리해진 게 아니라, 인간 공격자가 AI 덕분에 더 넓게, 더 빠르게, 더 낮은 비용으로 움직일 수 있게 됐다는 것입니다. 방어도 같은 속도로 따라붙어야 한다는 이야기입니다.