Category

AI의 자율성 시간, 어떻게 읽어야 할까? (시간지평과 실전 위험) 안녕하세요, 저스틴입니다! 다시 만나서 반가워요. 오늘 강의에서는 AI의 성능을 평가할 때 가장 뜨겁게 논의되는 개념인 ‘시간지평(Time Horizon)’과 ‘AI 자율성의 한계’에 대해 배워보겠습니다. 제공해주신 교재 자료에서 저자는 이 장의 결론을 다음 한 문장으로 명쾌하게 못 박습니다. “무방비 시험장에서 나온 숫자를 실전 자동화 수치로 직역하지...

낮은 등급이 모이면 사다리가 된다: 체이닝과 길목 차단 안녕하세요, 저스틴입니다! 영화나 뉴스에서 해킹 사고를 보면, 마치 공격자가 신이 내린 단 하나의 엄청난 무기(치명적인 취약점)를 써서 시스템을 순식간에 폭파하는 것처럼 보입니다. 하지만 현실은 전혀 다릅니다. 보안 전문가 메리트 베어(Merritt Baer)는 현대 보안의 위험을 이렇게 정의합니다. “위험은 더 이상 한 점이 아니라...

코어는 단단하다, 무너지는 건 바깥쪽: 7가지 외곽 방어 원칙 안녕하세요, 저스틴입니다! 다시 만나서 반가워요. 오늘 강의는 그동안 우리가 다뤄온 자율 익스플로잇과 취약점 분석의 위험들을 바탕으로, “그렇다면 우리는 이제 어디를 어떻게 잠가야 하는가?”에 대한 대답을 내리는 시간입니다. 제공해주신 교재 자료에서 저자는 이 장의 핵심을 단 한 문장으로 압축합니다. “잠가야 할 문은 바깥쪽이다.”...

수십 년을 살아남은 유령, ‘메모리 손상’을 막는 3단계 방어선 안녕하세요, 저스틴입니다! 오늘 다룰 주제는 개발자들과 보안팀을 수십 년 동안 괴롭혀 온 보안계의 오래된 유령, ‘메모리 손상(Memory Corruption)’입니다. 미국 보안 기관(CISA·NSA)은 2025년 공동 보고서에서 메모리 안전 언어로 전환하는 것이 이 결함 부류의 “가장 포괄적인 완화책”이라고 명시했습니다. 왜 보안 전문가들은 프로그램 ...

AI 시대의 보안: 공격을 조립하는 것이 아니라, 어디서 막을 것인가? 안녕하세요, 저스틴입니다! 오늘 우리가 함께 다룰 주제는 “AI가 스스로 소프트웨어의 약점(취약점)을 찾아내는 시대에, 우리는 어떻게 시스템을 지켜야 하는가?” 입니다. 저자는 이렇게 강조합니다. “방어의 무게중심은 ‘공격이 흐르는 단계마다 관측선을 세우는 것’으로 옮겨가야 한다.” 이 말이 무슨 뜻인지, 그리고 왜 우리가 보안을 바라보는 시각을...

통제의 빈틈 — 봉인과 수출통제를 빠져나간 역량 STAGE 1 — 왜 이 개념이 중요할까요? (Why It Matters) 2026년 4월, 앤트로픽은 미토스(Mythos) 모델을 세상에 발표하며 이렇게 선언했습니다. “이 모델은 공개하기엔 너무 위험합니다.” 그래서 비밀번호를 걸고, 선별된 파트너에게만 문을 열어주는 거대한 철갑 문을 세웠죠. 그런데 어처구니없게도, 공개 발표가 나간 바로 그날, 비공식 디스코드(Discord) 채팅방의...

누가 역량에 접근하는가 — 기술이 국경을 만날 때 (수출통제와 주권 AI) STAGE 1 — 왜 이 개념이 중요할까요? (Why It Matters) 여러분, 오늘 아침까지 우리 회사 보안 파이프라인에서 아주 똑똑하게 일하던 AI API가 있습니다. 내가 코드를 잘못 짠 것도 아니고, 구독료를 안 낸 것도 아닙니다. 그런데 내일 아침 출근해보니 API가 완전히...

봉인된 ‘어떻게’, 제작사도 모르는 ‘왜’ — 책임 있는 공개와 검증 비대칭 STAGE 1 — 왜 이 개념이 중요할까요? (Why It Matters) 전 세계 거의 모든 동영상 재생 프로그램 안에는 ‘FFmpeg’라는 소프트웨어 부품이 들어있습니다. 여기에 무려 16년 동안 아무도 찾아내지 못한 결함이 숨어 있었습니다. 자동화된 시험 도구가 이 코드를 500만 번이나 망치로...