9장 - AI 커리어 조언

9장. AI 커리어 조언

AI로 커리어를 쌓기에 지금보다 좋은 시기는 없었다. 우리 모두는 1년 전 지구상 누구도 만들 수 없었던 소프트웨어를 지금 만들 수 있다. — Andrew Ng

9.1 AI의 황금기: 왜 지금인가

Andrew Ng는 강의 도입부에서 "AI가 둔화되고 있는가?"라는 최근의 질문에 대해 명확히 반론한다. 벤치마크 정확도가 100%에 수렴하면 더 이상 올라갈 곳이 없으므로 진보가 멈춘 것처럼 보이지만, METR(Model Evaluation & Threat Research)의 연구는 전혀 다른 그림을 보여준다.

핵심 지표: 작업 복잡도의 배가 시간

몇 년 전 GPT-2는 인간이 몇 초 만에 할 수 있는 작업만 처리했지만, 이제는 수십 분이 걸리는 작업까지 가능해졌다. 이 추세가 계속된다면 AI가 다룰 수 있는 작업의 범위는 기하급수적으로 확장된다.

이것이 "황금기"인 이유는 두 가지 축으로 요약된다.

1. 더 강력한 빌딩 블록 — LLM, RAG, 증강 워크플로우(Augmented Workflow), 음성 AI, 그리고 물론 딥러닝 자체. 프론티어 모델에 "트랜스포머 네트워크를 구현해 달라"고 프롬프트하면 꽤 쓸만한 결과가 나올 정도다.
2. 더 빠른 개발 속도 — AI 코딩 도구 덕분에 소프트웨어 작성 속도가 전례 없이 빨라졌다.

9.2 AI 코딩 도구와 프론티어에 머무는 법

Andrew Ng는 개인적으로 사용하는 코딩 도구가 3~6개월마다 바뀐다고 말한다. 몇 달 전까지 Claude Code가 1순위였고, GPT-5 출시 후 OpenAI Codex가 크게 약진했으며, 강의 당일 아침에는 Gemini 3가 발표되었다.

반 세대 뒤처진 도구를 쓰는 것은 솔직히 생산성에서 상당한 차이를 만든다.

AI 코딩 도구는 AI 분야 전체에서 진보 속도가 가장 빠른 영역 중 하나다. 최신 도구를 따라가는 것이 곧 경쟁력이다.

9.3 프로덕트 매니지먼트 병목

소프트웨어 스펙을 코드로 변환하는 비용이 급격히 낮아지면서, 병목은 "무엇을 만들 것인가"를 결정하는 단계로 이동했다. Andrew Ng는 이를 Product Management Bottleneck(프로덕트 매니지먼트 병목)이라 부른다.

엔지니어 대 PM 비율의 변화

엔지니어링 속도는 AI로 가속되지만 프로덕트 매니지먼트는 그만큼 빨라지지 않았기 때문이다. 그 결과 사용자와 대화하고, 피드백을 받고, 무엇을 만들지 스스로 결정할 수 있는 엔지니어가 가장 빠르게 움직이는 사람이 되고 있다.

Andrew Ng 자신도 "코드 작성 → 사용자에게 보여주기 → 피드백 기반 수정"이라는 루프를 빠르게 반복하며, 이 루프의 속도가 곧 실행력이라고 강조한다.

9.4 함께하는 사람이 커리어를 결정한다

사회학 연구에 따르면, 가장 가까운 5명의 친구가 흡연자라면 본인이 흡연자일 확률이 매우 높다. Andrew Ng는 이 원리가 커리어에도 똑같이 적용된다고 주장한다.

열심히 일하고, 빠르게 배우고, AI로 세상을 더 나은 곳으로 만들려는 사람들과 함께하면, 당신도 그렇게 될 가능성이 훨씬 높다.

스탠퍼드의 연결 조직(Connective Tissue)

Stanford Online이 독특한 이유는 프론티어 랩의 핵심 인력 상당수가 스탠퍼드 출신이라는 점이다. 이 연결 조직 덕분에 공개되지 않은 최신 정보가 교수와 학생 사이에서 비공식적으로 공유된다. "이건 해 봐라", "저건 그냥 홍보일 뿐이다", "그 PR 무시해라" 같은 조언 한마디가 프로젝트의 기술적 방향을 바꿀 수 있다.

회사를 고를 때 주의할 점

Andrew Ng는 과거 스탠퍼드 학생이 유명 AI 기업에 입사했지만, 배정 팀을 사전에 알려주지 않아 결국 백엔드 Java 결제 시스템에 투입된 사례를 소개한다. 이 이야기를 수업에서 공유한 이후에도 같은 회사에서 동일한 일이 반복되었다.

• 회사가 배정될 팀을 알려주지 않는다면, 그것 자체가 경고 신호다.
• 가장 핫한 회사 로고보다 매일 함께 일하는 사람이 중요하다.
• 브랜드는 덜 알려져도 뛰어난 팀과 일하는 쪽이 더 빠르게 성장한다.

9.5 열심히 일하라는 조언

Andrew Ng는 "요즘 일부에서는 열심히 일하라고 격려하는 것 자체가 정치적으로 올바르지 않다"고 인정하면서도, 솔직하게 말한다.

• 자신의 모든 성공한 PhD 학생은 예외 없이 엄청나게 열심히 일했다.
• 새벽 2시에 하이퍼파라미터 튜닝을 하는 것은 흔한 일이었다.
• 부상, 장애, 출산 직후 등 열심히 일할 수 없는 상황에 있는 사람은 존중하고 지원해야 한다.
• 그러나 열심히 일할 수 있는 위치에 있다면, 주말에 에이전트 코더를 돌려보는 것이 TV 시청보다 커리어에 훨씬 도움이 된다.

아이디어는 세상에 넘치지만, 그것을 만들 수 있는 기술을 가진 사람은 부족하다. 당신이 만들지 않으면 아무도 만들지 않을 프로젝트가 있다.

9.6 성공의 3가지 기둥 — Lawrence Moroney

Lawrence Moroney는 Google에서 오랜 기간 AI 에드보킷으로 활동했으며, 현재 ARM에서 일하고 있다. 그는 AI 채용 시장의 변화를 3개 시기로 구분한다.

Lawrence는 성공을 위한 3가지 기둥(Three Pillars of Success)을 제시한다.

기둥 1: 깊은 이해 (Understanding in Depth)

두 가지 의미를 가진다.

1. 학문적 깊이 — 머신러닝, 모델 아키텍처를 이해하고, 논문을 읽고 그것을 실무에 적용하는 능력
2. 트렌드 감지력 — 노이즈 대비 시그널(signal-to-noise ratio)이 높은 트렌드를 식별하는 능력

기둥 2: 비즈니스 포커스 (Business Focus)

• 산출물 지향 — "열심히 일한다"는 시간이 아니라 산출물(output)로 측정해야 한다.
• 원하는 직업을 위한 산출물 — "지금 가진 직업이 아니라 원하는 직업을 위해 산출물을 만들어라."
• Lawrence가 Google에 세 번째 면접에서 합격한 비결: 면접 전에 Google Cloud에서 주가 예측 Java 앱을 만들어 이력서에 넣었고, 면접관들은 랜덤 질문 대신 그의 코드를 중심으로 대화했다.

기둥 3: 실행 편향 (Bias Towards Delivery)

• 아이디어는 싸다. 실행이 전부다.
• 반쯤 완성되었지만 견고하게 구현된 아이디어가 화려하지만 실체 없는 아이디어보다 항상 이긴다.

9.7 면접에서의 태도: 10배 엔지니어의 함정

Lawrence는 한 엔지니어의 사례를 공유한다. 이 사람은 엘리트 코더였지만 6개월간 300개 이상의 지원에서 모두 탈락했다. Meta, Microsoft 등에서 코딩 면접은 완벽했지만 항상 최종 단계에서 거절당했다.

원인은 면접 코칭에서 받은 조언 — "자기 입장을 고수하라(have a backbone)" — 을 극단적으로 해석한 것이었다. 코드의 약점을 지적받을 때마다 방어적이고 적대적으로 반응했다.

기술적으로 10배 엔지니어(10x engineer)라 해도, 그런 태도라면 내 팀에는 절대 데려오고 싶지 않다.

이후 태도를 교정한 결과, 다음 면접에서 합격했고 이전 직장 대비 연봉이 2배로 올랐다.

9.8 AI 업계의 4가지 현실

Lawrence는 현재 AI 업계의 현실을 네 가지로 정리한다.

1. 비즈니스 포커스는 비타협적 — 활동주의(activism)의 진자가 한쪽으로 너무 치우쳤다가 반대편으로 되돌아오고 있다. 기업에 들어갈 때 비즈니스 포커스가 최우선이라는 점을 인식해야 한다.
2. 위험 완화(Risk Mitigation)가 업무의 일부 — 휴리스틱 컴퓨팅에서 인텔리전트 컴퓨팅으로의 전환에 따른 위험을 이해하고 완화하는 능력이 면접에서 가장 강력한 스킬이다.
3. 책임(Responsibility)의 진화 — Google Gemini의 이미지 생성 사례가 대표적이다. "공정한 다양성 표현"을 위한 안전 필터가 오히려 백인(Caucasian) 이미지 생성을 거부하고, 아일랜드인을 모두 빨간 머리로 그리는 등 역효과를 낳았다. 책임 있는 AI는 추상적 사회 이슈에서 비즈니스 평판 보호라는 실질적 영역으로 이동하고 있다.
4. 실수에서 배우는 것은 상수 — 주변 사람의 실수에 은혜(grace)를 베풀고 함께 극복하는 것이 중요하다.

9.9 기술 부채(Technical Debt)와 바이브 코딩

Technical Debt(기술 부채)는 소프트웨어를 만들 때 필연적으로 발생하는 추가 비용이다. 버그 수정, 문서화, 기능 추가, 유지보수 — 이 모든 것이 부채다.

주택 담보 대출 vs 고금리 신용카드

바이브 코딩의 시대에 코드 자체는 저렴해졌지만, 완성된 엔지니어링 코드는 여전히 비싸다. Lawrence의 조언:

1. 목표가 명확한가? — 프롬프트를 날리기 전에 요구사항을 정리한다.
2. 비즈니스 가치가 있는가? — "멋지다"와 "유용하다"는 다르다.
3. 사람이 이해할 수 있는가? — 변수 이름, 문서화, 알고리즘 설명이 포함되어야 한다.

좋은 재무 관리가 부자를 만들 듯, 좋은 기술 부채 관리가 좋은 엔지니어를 만든다.

9.10 하이프 네비게이션 전략

소셜 미디어의 화폐는 인게이지먼트이지 정확성이 아니다. LinkedIn조차 GPT로 작성된 인게이지먼트 농사용 포스트로 넘쳐난다.

에이전트 사례: 유럽 기업 컨설팅

한 유럽 기업 CEO가 "에이전트를 구축해 달라"고 요청했을 때, Lawrence의 첫 번째 질문은 "왜?"였다. LinkedIn과 트위터에서 본 하이프에 현혹된 것이었다. 실제 니즈를 파고들어 보니 영업사원의 효율성 향상이었고, 그 문장 어디에도 "AI"나 "에이전트"라는 단어는 없었다.

에이전트 워크플로우의 4단계:

1. 의도 파악 (Understand Intent) — LLM을 사용해 과제의 의도를 명확히 한다
2. 계획 수립 (Planning) — 사용 가능한 도구(웹 검색, 브라우징 등)를 선언하고 계획을 세운다
3. 도구 실행 (Execute) — 계획에 따라 도구를 사용해 결과를 얻는다
4. 반성 (Reflect) — 결과가 원래 의도를 충족하는지 평가하고, 불충분하면 루프를 반복한다

결과: 영업사원이 리서치에 쏟던 시간의 10~15%를 절감했고, 판매 시간이 늘어나 수입이 증가했으며, 직무 만족도도 올라갔다.

McKinsey에 따르면 기업 AI 프로젝트의 약 85%가 실패하며, 주된 원인은 범위가 제대로 정의되지 않은 것이다.

하이프를 걸러내는 방법

• 트렌드를 객관적으로 평가한다.
• 유행을 가능한 한 무미건조하게(mundane) 만든다 — 예를 들어 텍스트-to-비디오는 "연속 프레임을 예측하는 모델"일 뿐이다. 그렇게 설명하면 해당 분야 전문가가 실제로 활용할 수 있게 된다.
• 기본에 깊이 파고들고, 시그널과 노이즈를 구별한다.

9.11 AI의 분기: 빅 AI vs 스몰 AI

Lawrence는 향후 5년간 AI 산업이 두 갈래로 분기(bifurcation)할 것이라고 예측한다.

Y Combinator 기업의 80%가 중국산 소형 모델을 사용하고 있다는 보고가 있으며, 파인튜닝(Fine-tuning) 역량이 핵심 기술로 부상하고 있다.

영화 산업 사례

할리우드 스튜디오는 IP 보호 때문에 시놉시스를 GPT나 Gemini에 절대 공유하지 않는다. 그러나 자체 호스팅 소형 모델이라면 영화 분석(어떤 영화가 왜 히트했는지, 어떤 시기에 개봉해야 하는지)에 활용할 수 있다.

9.12 버블에 대비하는 법

Lawrence는 AI 버블의 구조를 피라미드로 설명한다.

        하이프
      과도한 VC 투자
    비현실적 기업 가치 평가
      미투(me-too) 제품
        실질 가치

닷컴 버블을 떠올려 보면, 버블은 터졌지만 Amazon과 Google은 살아남아 번성했다. 반면 pets.com처럼 "만들면 올 것이다" 전략에 의존한 기업은 증발했다.

버블 생존 전략:

• 펀더멘털에 집중한다
• 실질적 솔루션을 구축한다
• 비즈니스 측면을 이해한다
• 스킬을 다각화한다 — 하나의 API나 프레임워크만 아는 사람은 산업이 이동하면 뒤처진다

9.13 핵심 요약

이전 장: 8장 - 에이전트, 프롬프트, RAG 다음 장: 10장 - 모델 내부에서 무슨 일이 일어나는가