Mythos 를 해부하다 – My AI Smarteasy와 책 읽기 – 제24장. CISO 의사결정 프레임
AI 보안의 최종 핸들은 사람이 쥔다: CISO 의사결정 프레임워크
제공해주신 원문은 CISO(최고정보보호책임자)가 지켜야 할 가장 중요한 규율을 단 한 줄로 요약합니다.
“점수 → 조치 → 인간 책임”
보안 시스템이 아무리 정교해져도 숫자가 사람의 판단을 대신할 수는 없습니다. 보안 점수는 어디에 먼저 손을 대야 할지 우선순위를 정해줄 뿐이며, 되돌릴 수 없는 중요한 결정과 사고의 최종 책임은 언제나 사람에게 남기 때문입니다.
오늘은 CISO가 월요일 아침 출근해서 시스템을 한눈에 파악하고 올바른 결정을 내릴 수 있게 만드는 의사결정 프레임워크를 알아보겠습니다.
STAGE 1 — Why It Matters: 최고 성능 슈퍼카에 계기판과 브레이크가 없다면?
엄청나게 빠른 AI 슈퍼카를 한 대 구입했다고 해봅시다.
엔진 성능(AI 모델의 능력)은 뛰어난데, 운전석에 속도계(대시보드)가 없고 브레이크 페달(승인 게이트)을 AI가 혼자 밟았다 뗐다 한다면 운전자는 어떻게 될까요? 언제 사고가 날지 몰라 불안해서 차를 달릴 수 없을 것입니다.
|
1 2 3 4 5 6 |
<span class="hljs-selector-attr">[ 기술적 방어선 (엔진/차체) ]</span> ───> <span class="hljs-selector-attr">[ CISO 의사결정 프레임 (계기판 & 브레이크) ]</span> (<span class="hljs-number">21</span>~<span class="hljs-number">23</span>장: 차단·격리·검문소) (<span class="hljs-number">24</span>장: 점수표, HITL 승인, 대시보드) │ ▼ "안전하고 빠른 운행 가능!" |
CISO의 역할은 기술을 자랑하는 게 아닙니다.
- 계기판(대시보드)을 보고 우리 시스템의 위험 수준을 한눈에 파악하고,
- 위험한 기로에서는 브레이크(HITL 승인 게이트)를 직접 밟아 책임을 지는 것입니다.
이 원리가 이해가 되시나요?
STAGE 2 — Unpacking the Core Concept: AI 위험 점수표(AIVSS)와 사람의 승인(HITL)
CISO가 올바른 결정을 내리려면 두 가지 핵심 도구가 필요합니다.
1. AIVSS (AI 취약점 점수 체계): “AI가 위험을 얼마나 증폭시키는가?”
기존의 전통적인 소프트웨어 점수(CVSS)만으로는 AI를 평가하기 어렵습니다. 평범한 버그라도 자율적으로 행동하는 AI 에이전트를 만나면 폭발 반경(피해 범위)이 어마어마하게 커지기 때문입니다.
그래서 AIVSS는 기존 기술 점수에 ‘에이전트 위험 증폭 요인(권한의 크기, 자율성 등)’을 합산하여 점수를 계산합니다.
| 점수 구간 | 조치 방향 | 책임자 |
|---|---|---|
| 9.0 ~ 10.0 (치명적) | 즉시 실행 일시 중단 & 24시간 내 차단 통제 적용 | CISO / 임원진 |
| 7.0 ~ 8.9 (높음) | 72시간 내 사람 승인 게이트(HITL) 배치 | 보안 운영 팀장 |
| 0.0 ~ 3.9 (낮음) | 정기 모니터링 유지 | 담당 엔지니어 |
2. HITL 승인 게이트: “되돌릴 수 없는 행동은 사람이 승인하라”
AI가 혼자 판단해서 실행하면 절대로 안 되는 행동들이 있습니다. 사고가 났을 때 복구가 불가능한 ‘비가역적 행위’들입니다.
- 데이터 삭제 및 데이터베이스 변경 (예: 21장에서 다룬 DB 무단 삭제 사고)
- 실제 금전 결제 및 송금 개시
- 외부로의 중요 데이터 전송 및 권한 변경
이런 고위험 행위 앞에는 반드시 HITL(Human-in-the-Loop), 즉 사람의 승인 버튼을 강제로 묶어두어야 합니다. AI가 아무리 똑똑해도 결제나 삭제 버튼은 사람이 눌러야 안전합니다.
STAGE 3 — Evidence and Application: 한눈에 보는 CISO 대시보드 6대 블록
CISO의 모니터 화면(대시보드)은 화려한 그래픽 전시장이 아니라 ‘즉시 결정에 쓰이는 6가지 핵심 블록’으로 구성되어야 합니다.
|
1 2 3 4 5 6 7 8 |
┌───────────────────────────┬───────────────────────────┐ │ <span class="hljs-number">1</span>. 종합 위험 점수 (AIVSS)│ <span class="hljs-number">2</span>. 방어 커버리지 (ATLAS) │ ├───────────────────────────┼───────────────────────────┤ │ <span class="hljs-number">3</span>. 에이전트 자산 목록 │ <span class="hljs-number">4</span>. 탐지 공백 (Detection) │ ├───────────────────────────┼───────────────────────────┤ │ <span class="hljs-number">5</span>. 승인 대기열 (HITL) │ <span class="hljs-number">6</span>. AI 부품 명세서 (AIBOM) │ └───────────────────────────┴───────────────────────────┘ |
- 종합 위험 점수: 우리 회사 AI 시스템 전체의 위험도를 숫자로 표시.
- 방어 커버리지 지도: 알려진 AI 공격 수법 중 우리가 몇 %를 막을 수 있는지 시각화.
- 에이전트 자산 목록: 현재 우리 회사에서 돌아가고 있는 AI 에이전트의 전체 명단. (실제 사고의 80%는 존재하는지도 몰랐던 에이전트에서 발생합니다!)
- 탐지 공백: 22장 방어 실험에서 경보가 울리지 않았던 보안 빈틈 목록.
- 승인 대기열: AI가 요청한 고위험 작업 중 사람이 승인해주길 기다리는 목록.
- AI 부품 명세서 (AIBOM): AI 시스템에 사용된 외부 도구와 라이브러리 중 유효기간이 끝난(EOL) 부품이 있는지 감시.
CISO는 아침마다 이 6개 블록을 확인하고, 빨간불이 들어온 곳에 예산과 인력을 우선적으로 투입하는 결정을 내립니다.
STAGE 4 — Summary and Extension: 핵심 요약과 자가 점검
오늘 강의를 정리해 보겠습니다!
- CISO의 규율: “점수 → 조치 → 인간 책임”. 숫자는 판단을 도울 뿐, 최종 결정과 책임은 사람이 집니다.
- AIVSS 점수표: AI 에이전트가 위험을 얼마나 증폭시키는지를 반영하여 위험의 우선순위를 정합니다.
- HITL 승인 게이트: 데이터 삭제, 송금 등 되돌릴 수 없는 고위험 행위는 반드시 사람의 승인을 거치게 만듭니다.
- CISO 대시보드: 6가지 핵심 블록을 통해 관측된 지표를 경영과 투자의 언어로 연결합니다.
