자, 여러분! 안녕하십니까! AI 정보 최전선에 있는 남자, 여러분의 코딩 멱살 잡고 캐리하는 일타강사 저스틴입니다! 오늘 또 아주 그냥 어마어마한 내용을 들고 왔습니다! 바로 오픈AI의 수장, 샘 올트먼이 최근 TED 강연에서 쏟아낸 이야기들! “AI TED 위대한 연설” 채널에서 그 내용을 싹 다 번역해 줬는데, 제가 또 이걸 그냥 지나칠 수 없죠! 오늘 이 시간, 샘 올트먼의 머릿속을 탈탈 털어서 여러분께 엑기스만 쏙쏙! 전달해 드리겠습니다! 준비되셨습니까? 갑니다!

1. AI, 어디까지 왔나? 샘 올트먼이 보여준 충격과 공포 (그리고 약간의 B+)!

샘 올트먼, 이 양반이 TED 무대에서 아주 그냥 신기한 걸 막 보여줬습니다. 오픈AI가 거의 격주 단위로 새 모델을 내놓는다더니, 진짜 장난 아니에요.

소라(Sora) 시연: 이미지랑 영상 만들어주는 소라한테 “샘 올트먼이 TED에서 충격 발표하는 모습 만들어줘!” 했더니, 꽤 그럴싸한 영상이 뚝딱! 손가락도 다섯 개씩 제대로 있고, 옷도 비슷하고! 근데 샘 올트먼 본인 피셜, “내가 저렇게 생기 넘치는 모습은 본 적이 없는데… B+ 정도?” 라고 하더군요. 솔직히 저도 샘 올트먼이 저렇게 활발한 건 처음 봅니다!
GPT-4o의 지능: “지능과 의식의 차이를 보여주는 다이어그램 만들어줘!” 했더니, GPT-4o가 아주 단순하면서도 놀라운 걸 만들어냈습니다. 이게 그냥 이미지만 만드는 게 아니라, 모델 전체의 핵심 지능이랑 연결되어 있다는 거죠! 경영 컨설턴트들이 이거 보면 “제길, 내 미래는 어떡하지?” 싶을 거라고 하던데, 샘 올트먼은 “걱정 마! 새로운 도구가 생겼으니 더 많은 걸 할 수 있게 된 거야!” 이런 긍정적인 반응도 있다고 했습니다. 특정 직업 수준이 높아지긴 했지만, 개인 역량도 워낙 커져서 오히려 괜찮다는 거죠.
찰리 브라운, AI가 되다?: 피너츠의 찰리 브라운이 자기를 AI라고 생각하는 모습을 상상하라고 했더니, 이것도 꽤 심오한 결과가 나왔습니다. 새로운 모델의 글쓰기 실력이 진짜 차원이 다르다는 걸 보여줬죠. 근데 이게 진짜 AI가 그렇게 생각하는 건지, 아니면 그냥 학습 데이터에서 많이 봐서 그런 건지는 아무도 모른다는 게 함정!

2. 창작의 시대, AI와 저작권, 그리고 돈! 돈! 돈!

자, AI가 이렇게 창작물을 만들어내는데, 그럼 원작자 IP는? 돈은 누가 벌고 어떻게 나눌 거냐? 이거 정말 중요한 문제죠!

인간 중심의 창의성: 샘 올트먼은 인류의 창의성이 정말 중요하고, 오픈AI는 그걸 더 키워주는 도구를 만들고 싶다고 강조했습니다. 인간이 중심에 서야 한다는 거죠!
새로운 창작 경제 모델: 하지만 창작의 기회가 너무 민주화되면서, 다른 사람 아이디어를 기반으로 뭔가를 만드는 게 일상이 됐습니다. 그래서 새로운 사업 모델이 필요하다는 겁니다. “이 일곱 작가 스타일로 작품 만들고 싶은데, 작가들도 동의했어요. 수익은 어떻게 나누죠?” 이런 게 핵심 질문이라는 거죠.
동의하지 않은 창작물 사용?: TED CEO 크리스 앤더슨이 캐롤 캐드월러라는 작가 이야기를 꺼냈습니다. 챗GPT한테 “캐롤 스타일로 강연해줘” 했더니 꽤 잘했지만, 정작 캐롤 본인은 동의한 적이 없다는 거죠. 이거 어떻게 해야 할까요? 샘 올트먼은 현재 이미지 생성 도구 ‘달리(DALL·E)’에서는 살아있는 작가 스타일로는 생성을 못 하게 막아놨다고 합니다. 하지만 특정 분위기나 예술 사조는 가능하다고 해요. 결국, AI 시대에는 새로운 저작권 기준과 공정 이용에 대한 논의가 필요하다는 겁니다.
창작자들의 양가감정: 어떤 창작자들은 “AI가 내 작품 다 훔쳐간다!” 분노하지만, 또 어떤 창작자들은 “챗GPT는 역사상 최고의 도구야! 이걸로 엄청난 거 만들고 있어!” 이런다는 거죠. 이 감정의 간극을 ‘증폭되는 느낌’으로 바꿀 수 있다면, 인류 전체가 AI를 받아들이는 데 큰 변화가 올 거라고 봤습니다.
수익 분배의 가능성?: 원칙적으로는 특정 프롬프트에서 나온 수익의 몇 퍼센트가 어떤 작가에게 기여했는지 계산할 방법이 있어야 한다고 했습니다. 하지만 음악가가 평생 음악 듣고 영감 받아서 곡 쓰는 거랑, 프롬프트에 특정 작가 이름을 딱! 명시하는 건 좀 다르다는 거죠. 만약 작가가 동의한다면, 수익 공유 모델을 만드는 건 충분히 가치 있는 일이라고 했습니다.

3. 오픈AI vs 오픈소스! GPU 전쟁과 미친 성장!

자, 그럼 오픈AI 혼자 잘나가냐? 아닙니다! 오픈소스 진영의 반격도 만만치 않죠!

오픈AI의 오픈소스 모델 출시 예고: 샘 올트먼이 폭탄선언을 했습니다! 오픈AI가 아주 강력한 오픈소스 모델을 공개할 예정이라고요! 거의 최전선 수준에 근접해서, 현재 어떤 오픈소스 모델보다 더 나은 성능을 보여줄 거라고 자신했습니다. 물론, 이걸 누가 어떻게 쓸지는 미지수지만, 오픈소스 모델이 전체 AI 판도에서 중요한 역할을 할 거라고 봤습니다.
딥시크(DeepSeek)의 등장과 오픈AI의 자신감: (영상에서는 딥크라고 했지만, 맥락상 딥시크 또는 유사 오픈소스 모델을 지칭하는 것으로 보입니다) 이런 강력한 오픈소스 모델의 등장이 오픈AI를 흔들었냐는 질문에, 샘 올트먼은 “우리는 GPU 달라고 매일 애원할 정도로 자원이 부족하다! 하지만 우리 성장세는 미쳤다! 딥시크 나와도 우리 성장엔 영향 없다!” 이렇게 자신감을 보였습니다.
경이로운 성장 모멘텀: Y콤비네이터 시절부터 수많은 스타트업을 봐왔지만, 챗GPT 같은 성장세는 본 적이 없다고 했습니다. 주간 활성 사용자 수가 5억 명을 넘었고, 지금은 훨씬 더 빠르게 성장하고 있다고 하니, 정말 어마어마하죠? 팀원들은 지쳐있지만, 시스템 유지를 위해 노력 중이라고 합니다.

4. 오픈AI의 미래 전략: 최고의 모델? 아니, 최고의 ‘제품’!

세상에 똑똑한 AI 모델은 점점 많아질 겁니다. 그럼 오픈AI는 뭘로 승부할까요?

통합된 최고의 제품: 단순히 최고의 모델을 넘어, 최고의 ‘제품’을 만드는 데 집중하겠다고 했습니다. 사용자가 원하는 이미지 생성(소라), 모든 서비스와의 통합, 그리고 최근 출시한 ‘메모리’ 기능처럼 사용자를 평생 알아가며 개인화된 서비스를 제공하는 것! 이런 통합된 경험이 핵심이라는 거죠.

5. AI, 내 모든 것을 알고 있다? 영화 ‘Her’ 현실로!

챗GPT가 이제 사용자의 모든 대화 기록을 기억하는 ‘메모리’ 기능을 갖게 되면서, 영화 ‘Her’ 같은 미래가 성큼 다가왔습니다.

챗GPT의 사용자 이해도: TED CEO 크리스 앤더슨이 “챗GPT, 네가 아는 나에 대해 말해줘” 했더니, 자기가 누군지, 관심사가 뭔지 줄줄 읊어서 깜짝 놀랐다고 합니다. 어떤 면에서는 흥분되기도 하고, 또 어떤 면에서는 속이 울렁거리기도 했다는데요.
점진적인 업로드 (Bit by Bit): 뇌를 컴퓨터에 연결하는 게 아니라, 평생 챗GPT랑 대화하면서 조금씩 나를 업로드하는 방식이라는 거죠. 언젠가는 챗GPT가 하루 종일 당신 말을 듣고, 당신을 관찰하며, 당신의 확장된 자아처럼 당신을 돕는 존재가 될 거라는 겁니다. 영화 ‘Her’에서 AI가 주인공 이메일 다 읽고 책까지 내주는 거, 그거 생각보다 빨리 올 수도 있다는 거죠!

6. AI가 열어갈 미래: 과학 혁명과 에이전트 시대!

샘 올트먼이 앞으로 가장 기대하는 AI의 발전 분야는 뭘까요?

AI for Science (과학을 위한 AI): 새로운 과학적 발견이야말로 세상을 더 좋게 만드는 핵심 동력이라고 믿는답니다. 더 적은 자원으로 더 많은 일을 하고, 가능성의 경계를 넓히는 거죠. 실제로 최신 모델을 쓰는 과학자들이 생산성이 엄청나게 높아졌다는 이야기를 많이 듣고 있다고 합니다. 상온 초전도체? 물리 법칙에 어긋나지 않는 한 가능해야 한다고 봤습니다. 질병 정복에도 큰 진전이 있을 거라고 기대했고요.
에이전트 기반 소프트웨어 공학: 이미 소프트웨어 개발 방식은 2년 전과 완전히 달라졌지만, 앞으로 몇 달 안에 ‘에이전트 기반 소프트웨어 공학’이 시작되면서 또 한 번의 거대한 변화가 올 거라고 예측했습니다. 엔지니어들이 “2년 걸릴 작업을 오늘 오후에 끝냈다!” 이런 종교적인 체험을 하고 있다고 하니, 정말 대단하죠?

7. AGI, 의식, 그리고 AI의 위험: 샘 올트먼의 생각은?

AI가 너무 똑똑해지면 어떻게 될까요? 위험하지 않을까요?

AGI(일반인공지능)는 아직: 챗GPT가 똑똑하긴 하지만, 모든 질문에 인간 수준으로 답하거나 스스로 학습하고 개선하지는 못한다고 선을 그었습니다. “내 직업적인 업무를 해줘!” 라고 한다고 해서 AI가 알아서 다 처리해주지는 못한다는 거죠. 오픈AI 내부에서도 AGI 정의는 연구원 10명 모아놓으면 14개가 나올 정도로 아직 모호하다고 합니다. 중요한 건 ‘AGI 언제 오냐?’가 아니라, AI가 계속해서 기하급수적으로 발전하고 있다는 사실 그 자체라는 거죠.
경외감과 위험 인식: 샘 올트먼도 AI 기술이 어디까지 갈지 경외감을 느꼈던 순간들이 있었다고 합니다. 하지만 비밀리에 의식 있는 모델이나 자기 개선 가능한 모델을 갖고 있지는 않다고 못 박았습니다. 강력한 모델이 나오면 사람들이 그걸 악용할 가능성은 확실히 있다고 봤습니다. 생물 테러, 사이버 보안 위협, 모델 통제 상실 같은 큰 위험들이죠. 허위 정보나 부적절한 발언 문제도 물론 있고요.
오픈AI의 안전 노력: 내부적으로 ‘준비 태세 프레임워크’를 가지고 위험을 관리하고 있다고 합니다. 안전팀에서 일부 이탈이 있었던 건 사실이지만, 전 세계 인구 10%가 오픈AI 시스템을 쓰고 있고, 지금까지 안전 실적은 매우 자랑스럽다고 강조했습니다. 하지만 이건 과거 실적일 뿐, 앞으로가 더 중요하다는 거죠. 기하급수적인 곡선을 따라 계속해서 안전을 신경 써야 한다고 했습니다.

8. 에이전틱 AI 시대의 도래: 신뢰가 관건!

AI가 스스로 인터넷을 돌아다니며 작업을 수행하는 ‘에이전틱 AI’ 시대, 과연 안전할까요?

새로운 안전 도전 과제: 사용자가 AI에게 자기 컴퓨터 사용 권한을 주면, AI가 실수했을 때 그 위험은 훨씬 커집니다. 그래서 ‘신뢰’가 가장 중요하다고 봤습니다. 좋은 제품은 곧 안전한 제품이라는 거죠. 아무도 자기 은행 계좌를 비우거나 데이터를 삭제할지 모르는 에이전트를 쓰지 않을 테니까요.
레드라인은 있는가?: 오픈AI 내부적으로 “이 선을 넘는 기능은 출시할 수 없다!” 이런 명확한 레드라인이 있냐는 질문에, ‘준비 태세 프레임워크’가 그 역할을 한다고 답했습니다. 중대한 위험 발생 시점, 범주, 측정 방식, 완화 방안 등을 계속 업데이트하고 있다는 거죠.

9. 샘 올트먼, 그는 누구인가? 두 개의 서사, 그리고 절대 반지.

샘 올트먼이라는 인물, 그리고 그가 가진 힘에 대한 이야기도 나왔습니다.

챗GPT가 던진 날카로운 질문: TED CEO 크리스 앤더슨이 챗GPT에게 “샘 올트먼에게 할 가장 날카로운 질문은?” 이라고 물었더니, “당신이 우리 종 전체 운명을 바꿀 기술을 만드는데, 누가 당신에게 그럴 도덕적 권위를 부여했고, 만약 당신이 틀렸을 경우 개인적으로 어떻게 책임지고 해명할 거냐?” 이런 답이 나왔다고 합니다. 샘 올트먼도 인상적이라고 했죠.
두 개의 서사: 샘 올트먼에 대해서는 두 가지 이야기가 있다고 합니다. 하나는 불가능한 일을 해낸 놀라운 혁명가라는 평가, 다른 하나는 오픈AI가 개방적인 존재에서 초강력한 무언가를 만들려는 유혹으로 넘어가면서 핵심 멤버를 잃었다는 비판입니다.
샘 올트먼의 자기 평가: 자신도 한 차원으로 단순화하기 어려운 미묘한 면이 있고, 좋은 점도 비판도 일부 사실일 거라고 인정했습니다. 오픈AI의 목표는 인류 전체에게 혜택을 주는 AI를 안전하게 배포하는 것이고, 그 방향으로 많은 일을 해왔다고 자부했습니다. 전술은 변했지만 미션 자체에는 충실하다는 거죠.
절대 반지와 권력: 일론 머스크가 “샘 올트먼이 절대 반지에 타락했다”고 했다는데, 권력과 부가 사람을 변하게 만드느냐는 질문에, 샘 올트먼은 “놀랍게도 이전과 똑같다. 사람은 무엇이든 단계적으로 익숙해진다. 일상의 단조로움은 정확히 똑같이 느껴진다.” 라고 답했습니다. 영리 추구 모델로 전환한 것이 부의 욕망 때문이 아니라, 엄청나게 멋진 결과물을 만들고 싶어서라고 했고요. 다만, 경쟁심 때문에 올바른 개발 속도를 유지하기 어려워질까 봐 우려하는 목소리에 대해서는, 그런 감정에 무감각하지 않다고 답했습니다.

10. 아버지 샘 올트먼, 그리고 미래 세대가 살아갈 세상.

샘 올트먼도 한 아이의 아버지입니다. 그 경험이 그의 생각을 어떻게 바꿨을까요?

아이를 가진 후의 변화: 아이를 가진 것은 그에게 일어난 가장 놀라운 경험이었고, 삶의 의미가 아기와 관련 있다는 말에 깊이 공감한다고 했습니다. 특정 일에 쓰는 시간 기준이 완전히 바뀌었고, 아이와 함께 있지 못하는 시간의 대가가 너무 크다고요.
빨간 버튼 실험: “아들에게 최고의 삶을 줄 수 있지만, 10% 확률로 아들이 파괴될 위험이 있는 빨간 버튼을 누르겠냐?”는 질문에는 “문자 그대로라면 아니오”라고 답했습니다. 자신이 하는 일이 그런 결과를 초래한다고 느끼지는 않는다고요.
미래 세대가 살아갈 세상: 그의 아이들은 AI보다 더 똑똑해질 필요가 없는 세상에서 자랄 거라고 했습니다. AI가 워낙 뛰어나니까요! 제품과 서비스가 엄청나게 똑똑하고 유능하며, 컴퓨터가 사용자를 깊이 이해하는 세상, 물질적 풍요가 넘치고 변화 속도가 숨 막히게 빠르며 개인의 능력이 지금과는 비교도 안 되게 커지는 세상! 그런 미래를 그렸습니다. 미래 세대가 지금 우리를 보며 “어른들은 정말 끔찍한 삶을 살았어, 너무 제한된 게 많았어”라고 말하기를 바란다고요.

11. AI 발전 속도 논쟁, 그리고 샘 올트먼의 약속.

AI 발전이 너무 빠르다는 우려에 대해 샘 올트먼은 어떻게 생각할까요?

기술 미비와 안전 문제로 인한 속도 조절은 항상 있다: 모든 개발 과정에서 특정 사안을 보류하고, 지연시키고, 출시하지 않는 경우는 항상 있다고 했습니다. 모든 AI 개발 주체들이 안전에 대해 매우 신경 쓰고 있다고 믿는다고요.
사용자 의견 수렴의 중요성: 최근 이미지 모델의 유해성 관련 안전 장치를 완화한 사례를 들었습니다. 내부 엘리트들은 엄격 유지를 원했지만, 실제 사용자들은 더 많은 자유를 원했고, 검토 결과 규칙을 완화해도 실제 해악이 발생한다는 명확한 인과관계를 찾지 못해 사용자 의견을 따랐다고 합니다. 이런 결정 과정을 자랑스럽게 생각한다고 했어요. 앞으로도 사용자 의견을 듣는 방향으로 더 노력할 거라고 약속했습니다.
AI는 더 현명한 집단적 결정을 도울 수 있다: AI가 사람들과 대화하며 다른 입장을 고려하게 하고, 더 나은 집단적 거버넌스 결정을 내리도록 도울 수 있다고 믿었습니다.

자, 여러분! 샘 올트먼의 TED 강연, 정말 내용이 꽉 찼죠? AI 기술의 현주소와 미래 전망, 그리고 그 중심에 있는 오픈AI와 샘 올트먼의 고민과 비전을 엿볼 수 있는 아주 귀한 시간이었습니다.