봉인된 ‘어떻게’, 제작사도 모르는 ‘왜’ — 책임 있는 공개와 검증 비대칭

STAGE 1 — 왜 이 개념이 중요할까요? (Why It Matters)

전 세계 거의 모든 동영상 재생 프로그램 안에는 ‘FFmpeg’라는 소프트웨어 부품이 들어있습니다. 여기에 무려 16년 동안 아무도 찾아내지 못한 결함이 숨어 있었습니다. 자동화된 시험 도구가 이 코드를 500만 번이나 망치로 두드렸지만 버그를 못 찾았는데, 앤트로픽의 AI 모델 ‘미토스(Mythos)’는 이 코드를 ‘읽고’ 단번에 결함을 찾아냈습니다. 심지어 이런 위험한 결함을 수천 개나 한꺼번에 찾아냈죠. 여기서 엄청난 딜레마가 생깁니다.

“이 위험한 버그들을 세상에 다 발표해야 할까요, 아니면 비밀로 숨겨야 할까요?”

다 발표해 버리면? 제조사가 고치기도 전에 공격자(해커)가 먼저 악용합니다.
비밀로 숨겨 버리면? 사용자는 위험한 지도 모른 채 계속 쓰다가 소리 없이 당합니다.

이 딜레마를 해결하는 지혜가 바로 오늘 배울 ‘책임 있는 공개(CVD)’와 ‘검증 비대칭’입니다. 이 원리를 모르면, 우리는 AI가 가져올 엄청난 보안 위험 앞에서 혼란에 빠지게 됩니다.

STAGE 2 — 핵심 개념 분해하기 (Unpacking the Core Concept)

1. 사건은 열고, 기제는 봉인한다

AI 제작사는 이 딜레마를 어떻게 풀었을까요? 원문은 이를 한 문장으로 간결하게 정리합니다.

“사건은 열고, 기제는 봉인했다.”

여기서 ‘기제(機制)’란 작동 방식을 뜻합니다. 비유를 들어볼까요?

[저스틴의 비유: 도어락 결함]

사건 공개 (What happened): “A사 도어락에 치명적인 결함이 발견되었으니, 사용자는 주의하시고 최신 소프트웨어로 업데이트하세요.”라고 뉴스에 발표하는 것입니다. (정보 공개)

기제 봉인 (How it works): “도어락 뒷면 3번째 나사를 빼고 쇠꼬챙이를 집어넣으면 뚫립니다”라는 구체적인 만능열쇠 제작법(익스플로잇)은 숨기는 것입니다. (악용 방지)

제조사가 수리 기사를 보내 도어락을 다 고칠 때까지 구체적인 ‘따는 법’은 봉인해 두는 것, 이것이 바로 보안 업계의 오랜 약속인 CVD(Coordinated Vulnerability Disclosure, 조정된/책임 있는 취약점 공개)입니다.

구분	사건 (Event / What)	기제 (Mechanism / How)
내용	AI가 수천 개의 제로데이 결함을 찾았다는 사실	결함을 뚫고 들어가는 공격 코드 및 세부 절차
조치	열어둠 (공개)	봉인함 (비공개)
목적	방어자에게 위협을 알리고 대비하게 함	공격자가 패치 전에 악용하는 것을 막음

2. 봉인의 그림자: ‘검증 비대칭’

하지만 이 봉인에는 대가가 따릅니다. 바깥에 있는 방어자(우리)는 세부 내용이 봉인되어 있으니 “AI가 진짜로 그 버그를 찾았는지, 그 버그가 얼마나 위험한지” 직접 재현해서 확인할 길이 없습니다. 제작사는 원본 시험지를 쥐고 있고, 우리는 요약된 성적표만 받는 상황이 되는 거죠. 원문에서는 이를 ‘검증 비대칭’이라고 부릅니다. 제작사는 안전을 위해 봉인할 의무가 있고, 우리는 봉인된 채로 시스템을 지켜야 할 의무가 있습니다. 둘 다 옳지만, 그 사이에 ‘신뢰의 간극’이 생기는 것입니다.

STAGE 3 — 증거와 실전 적용 (Evidence & Application)

해시 커밋: “믿어주세요” 대신 수학적 지문 남기기

“증거도 안 보여주면서 다 찾았다고 주장하면 어떻게 믿나요?”라는 정당한 의심에 제작사는 ‘해시 커밋(Hash Commit)’이라는 수학적 장치를 사용합니다. 비유하자면, 자신이 예언한 내용을 상자에 넣고 잠근 뒤, 그 상자의 ‘열쇠 모양(지문)’만 먼저 인터넷에 공개하는 것입니다. 나중에 버그가 다 고쳐지고 상자를 열었을 때, 미리 공개했던 지문과 딱 맞아떨어지면 “아, 이 사람이 진짜 그때 이미 다 알고 있었구나!” 하고 수학적으로 증명되는 원리입니다.

CVD를 넘어: 이중용도 역량 거버넌스

단순한 프로그램 버그는 패치 하나로 구멍을 막으면 끝납니다. 하지만 ‘버그를 찾아내는 AI의 능력’ 그 자체는 패치로 사라지지 않습니다. 방어에도 쓰이고 공격에도 쓰이는 이중용도(Dual-use)를 가졌기 때문이죠. 따라서 단만 버그를 닫는 전통적 CVD를 넘어, 역량 자체를 관리하는 체계가 필요합니다.

 <span class="hljs-selector-attr">[전통적 CVD]</span> : 버그 발견 ──► 제조사에 통보 ──► 패치 제작 ──► 대중 공개 (버그 차단)
 <span class="hljs-selector-attr">[AI 역량 거버넌스]</span> : 역량 발견 ──► 정보 클리어링하우스 ──► 검증된 방어자에게만 선제 제공 (권한 관리)

<span class="hljs-selector-attr">[전통적 CVD]</span> : 버그 발견 ──► 제조사에 통보 ──► 패치 제작 ──► 대중 공개 (버그 차단)

<span class="hljs-selector-attr">[AI 역량 거버넌스]</span> : 역량 발견 ──► 정보 클리어링하우스 ──► 검증된 방어자에게만 선제 제공 (권한 관리)

실제로 앤트로픽은 ‘프로젝트 글래스윙(Glasswing)’이라는 프로그램을 통해, 미토스의 결함 탐지 역량을 오직 검증된 선별 파트너와 방어자들에게만 제한적으로 제공하는 전략을 취했습니다. 또한 NIST AI RMF(미국 국립표준기술연구소의 위험관리 프레임워크)를 활용하여 다음 4가지 단계로 공개 및 봉인을 결정합니다:

GOVERN (거버넌스): 무엇을 공개하고 봉인할지 기준을 미리 문서화합니다.
MAP (식별): 이 AI 능력이 우리 사회와 산업에 어떤 영향을 줄지 파악합니다.
MEASURE (측정): 사람이 직접 검수하여 AI가 찾은 버그의 정확도(실제 89% 일치)를 측정합니다.
MANAGE (대응): 봉인을 유지할지, 선별적으로 공개할지 의사결정 기록을 남깁니다.

STAGE 4 — 요약 및 확장 (Summary & Next Step)

오늘 배운 제 2강의 핵심 내용을 3줄로 요약해 드립니다.

AI가 찾아낸 수천 개의 결함은 패치가 준비될 때까지 ‘사건은 공개하고, 기제(공격 법)는 봉인’하는 CVD 절차를 따릅니다.
기제를 봉인하면 안전해지지만, 바깥 방어자가 직접 검증할 수 없는 ‘검증 비대칭’이 발생합니다.
AI의 해킹/방어 역량은 사라지지 않는 ‘이중용도’를 가지므로, 신뢰할 수 있는 방어자에게만 권한을 주는 ‘접근 거버넌스’가 필수적입니다.