자, 반갑습니다! 여러분의 성공적인 커리어를 책임질 대한민국 최고의 일타강사, 저스틴입니다! 오늘 제 강의는 유튜브 채널 ‘BZCF | 비즈까페’에 올라온 앤드류 응(Andrew Ng) 님의 “속도가 전부다 (Speed is Everything)” 강연 스크립트를 바탕으로 진행됩니다. 스타트업, 특히 AI 스타트업을 꿈꾸는 학생이라면 오늘 강의, 절대 놓치지 마세요. 여러분의 성공 확률을 수직 상승시켜 줄 핵심 비법들만 쏙쏙 뽑아 해설해 드릴 테니, 눈 크게 뜨고 따라오시기 바랍니다!

[저스틴의 명품 강의] 앤드류 응이 말하는 AI 스타트업 성공의 제1원칙: 속도!

자, 여러분! 오늘 강의의 핵심 키워드는 바로 ‘속도’입니다. 앤드류 응 님은 스타트업의 성공 가능성을 예측하는 가장 강력한 지표가 바로 ‘실행 속도‘라고 단언합니다. 빠르게 움직이는 기업가와 경영진을 존경한다고 말할 정도죠. 특히, 무섭게 발전하는 AI 기술 덕분에 스타트업의 속도는 이전과 비교할 수 없을 정도로 빨라지고 있습니다. 이 속도의 비밀을 파헤쳐 보는 것이 오늘 강의의 목표입니다.

1. 기회는 어디에 있는가? 바로 ‘애플리케이션’이다!

강의를 시작하기 전에, 앤드류 응 님은 많은 사람들이 궁금해하는 ‘AI 시대의 기회’에 대해 먼저 짚고 넘어갑니다. AI 스택(stack)을 한번 볼까요? 맨 아래에는 반도체 기업, 그 위에는 클라우드 기업, 그리고 그 위에 파운데이션 모델(Foundation Model) 기업들이 있습니다. 언론의 스포트라이트는 주로 이 기술 레이어에 집중되죠.

하지만 앤드류 응 님은 이렇게 말합니다. “진정한 거대 기회는 애플리케이션 레이어에 있다!” 왜냐? 애플리케이션이 돈을 벌어야 그 돈으로 파운데이션 모델, 클라우드, 반도체 비용을 감당할 수 있기 때문이죠. 구조적으로 애플리케이션 시장이 가장 클 수밖에 없다는 겁니다. 자, 이 부분은 별표 세 개! 많은 사람들이 기술 자체에만 열광할 때, 우리는 돈의 흐름을 봐야 합니다. 결국 기술은 응용 프로그램을 통해 가치를 창출하고, 바로 그곳에 가장 큰 기회가 있다는 것, 잊지 마세요!

2. 가장 중요한 AI 트렌드: 에이전틱 AI (Agentic AI)

최근 1년 동안 가장 중요한 AI 기술 트렌드가 뭐냐고 묻는다면, 앤드류 응 님은 주저 없이 ‘에이전틱 AI의 부상’을 꼽습니다. ‘에이전트’라는 말이 마케터들 때문에 좀 흔해지긴 했지만, 기술적인 관점에서 이건 정말 중요합니다.

과거 우리는 LLM(거대 언어 모델)에게 프롬프트를 입력해서 한 번에 글을 생성하게 했습니다. 이건 마치 사람에게 “지금부터 백스페이스 키 절대 쓰지 말고, 첫 단어부터 끝 단어까지 한 번에 에세이를 써!”라고 시키는 것과 같아요. 당연히 최고의 결과물이 나오기 어렵겠죠? AI도 마찬가지입니다.

하지만 에이전틱 워크플로우는 다릅니다. AI에게 이렇게 시키는 거죠.

먼저 에세이의 개요를 짜.
필요하면 웹 서핑해서 자료를 찾아.
자료를 바탕으로 초고를 써.
초고를 스스로 읽고 비판해 봐.
그리고 수정해.

이처럼 ‘생각 -> 리서치 -> 수정’의 순환 고리를 여러 번 반복하는 겁니다. 시간은 좀 더 걸리지만, 결과물의 퀄리티는 비교할 수 없을 정도로 좋아집니다. 이것이 바로 더 많은 스타트업 기회를 열어줄 에이전틱 AI의 힘입니다.

3. 속도를 만드는 힘: ‘구체적인 아이디어’

자, 이제 본격적으로 속도에 대해 이야기해 봅시다. 앤드류 응 님은 그의 회사 ‘AI Fund’에서는 오직 ‘구체적인 아이디어’에만 집중한다고 합니다. 구체적인 아이디어란 뭘까요? 엔지니어가 그 설명을 듣고 바로 제품을 만들 수 있을 정도로 상세한 아이디어를 말합니다.

나쁜 예 (모호한 아이디어): “AI로 헬스케어 자산을 최적화하자.” (-> 엔지니어마다 전혀 다른 결과물을 만들 겁니다. 속도가 날 수 없죠.)
좋은 예 (구체적인 아이디어): “환자가 온라인으로 MRI 기기 사용 시간을 예약해서 병원의 장비 활용도를 최적화하는 소프트웨어를 만들자.” (-> 이게 좋은 사업 아이템인지는 별개 문제지만, 엔지니어는 ‘무엇을’ 만들어야 할지 명확히 압니다. 즉시 개발에 착수할 수 있죠.)

자, 이 부분은 별표 세 개! 많은 창업가들이 모호한 아이디어의 함정에 빠집니다. “AI로 헬스케어를 혁신할 거야!”라고 말하면 모두가 “와, 좋은 생각이다!”라고 칭찬해주거든요. 모호하면 항상 옳아 보입니다. 하지만 구체적인 아이디어는 맞을 수도, 틀릴 수도 있습니다. 중요한 건, 구체적이어야만 ‘빠르게’ 맞고 틀리고를 검증할 수 있다는 겁니다. 스타트업에게는 이 빠른 검증이 생명줄과도 같습니다.

4. 전문가의 ‘직감’을 믿어라!

그렇다면 좋은 구체적 아이디어는 어떻게 찾을까요? 앤드류 응 님은 ‘오랜 시간 한 문제에 대해 고민한 전문가’의 중요성을 강조합니다. 온라인 교육 플랫폼 코세라(Coursera)를 만들기 전, 그 자신도 수년간 온라인 교육에 대해 고민하고, 사용자와 이야기하며 직관을 키웠다고 하죠.

이렇게 오랜 시간 고민한 전문가는 ‘직감’만으로 빠르고 정확한 결정을 내릴 수 있습니다. “이 기능을 넣을까요, 저 기능을 넣을까요?”라는 질문에, 데이터 분석을 기다리는 건 스타트업에게 너무 느립니다. 오히려 전문가의 직감이 훨씬 빠르고 효과적인 의사결정 메커니즘이 될 수 있다는 거죠. 데이터는 물론 중요하지만, 속도가 생명인 스타트업에게는 전문가의 직감이 더 나은 나침반이 될 때가 많습니다.

또한, 성공적인 스타트업은 한 번에 한 가지 명확한 가설에만 집중합니다. 10가지 일을 동시에 벌일 자원이 없기 때문이죠. 하나를 정해서 끝까지 파고들다가, 데이터가 ‘이건 아니다’라고 말해주면, 그땐 미련 없이 다른 구체적인 아이디어로 피벗(pivot)하는 겁니다.

5. 빌드-피드백 루프: 코딩은 빨라지고, 기획이 병목이다!

스타트업은 ‘소프트웨어 제작(엔지니어링) -> 사용자 피드백(제품 관리)’이라는 루프를 끊임없이 반복하며 성장합니다. 그런데 AI 코딩 보조 도구 덕분에 엔지니어링의 속도와 비용이 극적으로 개선되었습니다.

이게 어떤 변화를 가져왔을까요? 앤드류 응 님은 “코드는 더 이상 귀한 자산이 아니다”라고 말합니다. 예전에는 코드베이스를 갈아엎는 건 상상하기 힘들었지만, 지금은 한 달에 세 번씩 전체 코드를 새로 짜는 팀도 있다고 합니다. 자, 이건 정말 중요한 변화입니다! 아마존의 제프 베조스가 말한 ‘원웨이 도어(One-way door, 되돌리기 힘든 결정)’와 ‘투웨이 도어(Two-way door, 쉽게 되돌릴 수 있는 결정)’를 기억하시나요? 과거에는 기술 스택 선택 같은 것이 원웨이 도어였지만, 이제는 점점 투웨이 도어가 되어가고 있습니다. 소프트웨어 엔지니어링 비용이 그만큼 낮아졌기 때문이죠.

엔지니어링이 이렇게 빨라지니, 이제는 오히려 ‘무엇을 만들지 결정하는’ 제품 관리(Product Management) 파트가 병목 현상을 일으키기 시작했습니다. 그래서 코딩할 줄 아는 기획자(PM)나, 제품에 대한 감각이 있는 엔지니어가 훨씬 더 좋은 성과를 낸다고 합니다.

6. 초고속 피드백을 얻는 기술

기획이 병목이라면, 우리는 어떻게 사용자 피드백을 ‘빠르게’ 얻을 수 있을까요? 앤드류 응 님은 속도 순으로 여러 전술을 소개합니다.

(가장 빠름) 자기 자신의 직감을 믿어라: 당신이 해당 분야 전문가라면, 이게 가장 빠르고 의외로 정확합니다.
친구/팀원 3명에게 물어보기: 조금 더 느리지만, 즉각적인 피드백을 얻을 수 있습니다.
낯선 사람 3~10명에게 물어보기: 자, 이 부분도 별표 세 개! 앤드류 응 님은 커피숍이나 호텔 로비에서 낯선 사람에게 말을 걸어 피드백을 구하는 기술을 창업가의 가장 중요한 기술 중 하나로 꼽습니다. 무례하지 않게 다가가면, 사람들은 생각보다 기꺼이 도와준다고 하네요.
100명의 테스터에게 프로토타입 보내기: 더 많은 사용자에게 피드백을 받을 수 있습니다.
(가장 느림) A/B 테스트: 실리콘밸리에서는 A/B 테스트를 신성시하지만, 사실 이건 가장 느린 전술 중 하나입니다.

여기서 중요한 점은, 이런 피드백과 데이터를 통해 단순히 A와 B 중 하나를 고르는 게 아니라는 겁니다. 그 결과를 통해 ‘왜’ 이런 결과가 나왔는지 분석하고, 우리의 ‘직감’을 더 날카롭게 벼리는 과정이 핵심입니다. 그래야 다음번에는 1번 전술(자신의 직감)만으로도 더 빠르고 정확한 결정을 내릴 수 있게 되니까요.

7. AI를 이해하면, 속도가 빨라진다

마지막으로, 앤드류 응 님은 AI 기술 자체에 대한 이해도가 속도에 미치는 영향을 강조합니다. 모바일 앱처럼 성숙한 기술은 비전문가도 ‘이 앱으로 뭘 할 수 있겠다’는 감이 있습니다. 마케팅이나 HR 같은 직무도 지식이 꽤 널리 퍼져있죠.

하지만 AI는 신기술입니다. AI를 제대로 아는 팀과 모르는 팀의 격차는 엄청납니다. “이 챗봇의 정확도를 어느 정도로 기대해야 할까?”, “프롬프트 엔지니어링으로 충분할까, 파인튜닝을 해야 할까?” 이런 기술적 결정 하나가 프로젝트의 기간을 며칠로 단축시킬 수도, 혹은 3개월 동안 헛고생하게 만들 수도 있습니다. AI에 대한 깊은 이해가 곧 경쟁 우위이자 속도의 원천이 되는 것입니다.