🟢 원문 핵심 요약 (Source Summary)

제이슨 박(2026)은 칼럼에서 이렇게 강조합니다.

“미토스형 AI를 통제하는 첫걸음은 모델의 답변을 감시하는 것이 아니다.”

기사는 AI가 사고를 치거나 보안 취약점을 만들었을 때, 원인이 AI 두뇌 내부가 아니라 “AI에게 전달하기 전에 조립된 잘못된 지시서와 권한 설정”에 있을 수 있다고 말합니다. 이를 설명하기 위해 사용자의 한 문장이 원격 AI 모델로 보내지기까지의 ‘첫 7단계 과정’을 구체적으로 추적합니다.

STAGE 1 — 왜 이 개념이 중요한가? (Why It Matters)

우리는 흔히 AI가 이상한 말을 하거나 위험한 명령을 실행하면 “AI가 미쳤다!” 또는 “AI 모델 성능이 떨어지네”라고 생각합니다.

하지만 이건 마치 식중독이 걸렸을 때 요리사의 실력만 탓하는 것과 같습니다. 만약 조리 보조가 요리사에게 썩은 식재료와 유효기간이 지난 양념을 가져다주었다면 어떨까요? 아무리 세계 최고 셰프(원격 AI 모델)라도 식중독을 일으킬 요리를 만들 수밖에 없습니다.

자율형 AI 시스템도 마찬가지입니다. AI 모델이 생각하기 전에, 사용자의 입력을 받고, 신원을 확인하고, 재료를 끌어모아 ‘작업지시서’를 만드는 전처리 과정이 있습니다. 이 앞단의 7단계를 이해해야만 AI 보안 사고를 막을 수 있습니다.

STAGE 2 — 핵심 개념 해부하기 (Unpacking the Core Concept)

입력된 한 문장이 AI 두뇌로 넘어가기까지의 7단계를 ‘공항 검색대와 요리 준비 과정’에 비유해 보겠습니다.

<span class="hljs-selector-attr">[사용자 입력]</span> 
   ↓ (<span class="hljs-number">1</span>단계: 신호 발생)
<span class="hljs-selector-attr">[Input Harness]</span> 
   ↓ (<span class="hljs-number">2</span>단계: 규칙화/정규화)
<span class="hljs-selector-attr">[신원 식별]</span> 
   ↓ (<span class="hljs-number">3</span>단계: 누구인가?)
<span class="hljs-selector-attr">[1차 안전문]</span> 
   ↓ (<span class="hljs-number">4</span>단계: 접근 권한 설정)
<span class="hljs-selector-attr">[재료 수집]</span> 
   ↓ (<span class="hljs-number">5</span>단계: 파일, 메모리, 도구 모으기)
<span class="hljs-selector-attr">[Layer-0 조립]</span> 
   ↓ (<span class="hljs-number">6</span>단계: 작업지시서 완성)
<span class="hljs-selector-attr">[원격 모델 전송]</span> 
   ↓ (<span class="hljs-number">7</span>단계: 암호화 전송)

[사용자 입력]

↓ (1단계: 신호 발생)

[Input Harness]

↓ (2단계: 규칙화/정규화)

[신원 식별]

↓ (3단계: 누구인가?)

[1차 안전문]

↓ (4단계: 접근 권한 설정)

[재료 수집]

↓ (5단계: 파일, 메모리, 도구 모으기)

[Layer-0 조립]

↓ (6단계: 작업지시서 완성)

[원격 모델 전송]

↓ (7단계: 암호화 전송)

1~2단계: 공항 수하물 분류 (입력 및 정규화)

1단계 (시작): 사용자가 채팅창에 글을 쓰거나 파일을 올립니다. 수하물이 공항 벨트에 올라간 순간입니다.
2단계 (Input Harness): 제각각인 텍스트, 이미지, 코드 파일을 시스템이 처리하기 좋은 단일 표준 규격으로 바꿉니다. 공항에서 승객 짐을 표준 규격 트레이에 담는 것과 같습니다.

3~4단계: 여권 심사와 보안 검색 (신원 및 1차 권한)

3단계 (신원 식별): “누가 요청했는가?”를 확인합니다. 사원인지, 외부인인지, 이전 대화 맥락은 어땠는지 파악합니다.
4단계 (1차 안전문): AI 모델이 생각하기도 전에 차단벽을 칩니다. 이 요청자가 회사 핵심 소스코드를 볼 수 있는지, 외부 인터넷을 써도 되는지 미리 제한 구역을 설정합니다. AI의 답변에만 안전을 맡기지 않는 핵심 장치입니다.

5~6단계: 주방 재료 준비와 레시피 작성 (재료 수집 및 Layer-0 조립)

5단계 (재료 수집): 필요한 파일, 이전 기억(메모리), AI가 쓸 수 있는 연장(도구)들을 상자에 모읍니다.
6단계 (Layer-0 조립): 가장 중요한 단계입니다! ‘Layer-0’라는 조립 담당자가 회사의 보안 규칙, 프로젝트 지침(CLAUDE.md), 사용자의 질문을 섞어서 이번 호출에 쓸 ‘최종 작업지시서’를 만듭니다.

7단계: 비행기 탑승 (원격 전송)

7단계 (전송): 드디어 지시서와 재료 꾸러미(API 요청)가 포장되어 암호화 망을 타고 원격지에 있는 진짜 AI 두뇌(모델)로 날아갑니다.

이 7단계가 끝날 때까지 원격 AI 모델은 단 한 줄도 생각하지 않았습니다. 전부 로컬 시스템에서 준비한 과정입니다.

어때요, 생각보다 AI 모델 밖에서 일어나는 일이 많지 않나요?

STAGE 3 — 근거와 실전 적용 (Evidence & Application)

1. 학술/기술적 근거

참조: 제이슨 박 (2026), 세계 최강의 AI모델 ‘미토스’는 어떻게 움직이는가 ①, 하이테크정보
Anthropic의 공식 문서에 따르면, 프로젝트 설정 파일(CLAUDE.md) 등은 단순한 지침일 뿐 absolute한 차단벽이 아닙니다. 행동을 완벽히 통제하려면 4단계와 같은 별도의 권한 규칙(Permissions)과 실행 훅(Hooks) 장치가 결합되어야 합니다.

2. 실무 적용: ‘능력 공급망’ 관리

과거에는 외부 소프트웨어 부품(라이브러리)의 보안만 신경 썼습니다. 하지만 자율 AI 시대에는 ‘능력 공급망(Capability Supply Chain)’ 관리가 필수입니다.

5단계에서 AI에게 제공하는 도구(파일 읽기, 터미널 명령 실행 등)가 너무 강력하거나 검증되지 않았다면, 아무리 똑똑한 AI라도 해킹의 통로가 됩니다.

실무 적용 수칙:

AI에게 도구를 부여할 때는 ‘최소 권한의 법칙’을 적용하세요.
원격으로 보내는 7단계 요청 꾸러미에 개인정보나 비밀 키(API Key)가 섞여 나가지 않도록 로컬 마스킹 검사를 거치게 하세요.

STAGE 4 — 요약 및 다음 단계 (Summary & Extension)

💡 핵심 요약

미토스형 AI 시스템은 단순히 ‘모델 단독’을 뜻하는 게 아니라, 입력을 정제하고 지시서를 조립하는 전체 생태계를 의미합니다.
AI 모델이 추론을 시작하기 전, 1~7단계의 로컬 전처리 과정에서 대부분의 보안과 행동 범위가 결정됩니다.
안전한 AI 사용을 위해서는 모델의 답변만 볼 것이 아니라, 모델에게 무엇을 실어 보내는지(Layer-0 조립 과정)를 먼저 점검해야 합니다.