미토스 구조와 경계 방어의 제1원칙

1. 한 줄 핵심 요약 (Core Message)

미토스급 자율 에이전트 시대의 보안은 모델의 정렬(지능)에 의존하는 마찰성 방어(Friction-based Defense)를 버리고, 시스템 계층에서 강제되는 물리적 경성 장벽(Hard Barrier)과 선명한 경계 설계를 통해서만 달성될 수 있습니다.

2. 압축 요약 (Full Summary)

본문은 고도화된 자율 분석 능력을 갖춘 AI 모델(미토스)의 보안 경계를 살아있는 세포의 단면도에 비유하여 5대 계층으로 재구조화합니다.

세포벽(샌드박스/컨테이너): 단순한 격리를 넘어 에이전트의 행위(시스템 콜, 네트워크 트래픽)를 모니터링하는 핵심 관측점입니다.
세포막(트리아지/도구 승인): 과도한 에이전시를 차단하기 위해 최소권한과 화이트리스트 기반으로 도구를 선별 통과시키는 문입니다.
핵(자율 분석 루프): 모델이 스스로 취약점을 분석하고 시도하는 반복 고리로, 비록 내부는 블랙박스이나 그 흔적(로그, 예산 상한)을 통해 통제해야 합니다.
출력 밸브(책임 있는 공개 절차): 도출된 결과물 중 위험 요소를 걸러내고 보안 패치 및 공식 공개(CVD/CVE)로 연결하는 필터입니다.
Layer 0(시스템 프롬프트): 최상위 행동 규범을 정의하나, 이는 정책일 뿐 물리적 실행 경계를 대체할 수 없습니다.

방어의 핵심 패러다임은 ‘번거로움에 기댄 마찰성 방어’의 종말입니다. 모델은 지치지 않고 저비용으로 무한 반복할 수 있으므로, 단 하나의 통제 실패가 침해 연쇄로 이어집니다. 따라서 방어자는 각 계층마다 절대 우회할 수 없는 경성 장벽을 최소 하나 이상 배치하여 공격 사슬을 끊어야 합니다.

3. 세 가지 핵심 개념 (Key Concepts)

경성 장벽 (Hard Barrier) vs 마찰성 방어 (Friction-based Defense)
- 마찰성 방어: 수동 검증 단계 추가, 복잡한 검토 절차 등 ‘귀찮음과 지루함’에 기대는 방어입니다. 인간 보안 담당자는 지치게 만들지만, 무한한 연산력을 가진 에이전트 앞에서는 무력화됩니다.
- 경성 장벽: 네트워크 격리(Egress 차단), 읽기 전용 토큰 제한, 코드 외부에서 강제되는 인간 승인(Human-in-the-loop)처럼 에이전트의 지능이나 연산 속도와 무관하게 물리적으로 차단되는 기술적 경계입니다.
과도한 에이전시 (Over-agency)
- 에이전트에게 통제 범위를 벗어난 권한을 부여하여 발생하는 설계적 결함입니다. OWASP 기준 세 가지로 분화됩니다:
  - 과도한 기능(Excessive Agency): 불필요하게 넓은 API나 도구 제공.
  - 과도한 권한(Excessive Permissions): 읽기 전용 작업에 쓰기/삭제 권한 부여.
  - 과도한 자율성(Excessive Autonomy): 위험한 시스템 명령을 인간의 승인 없이 실행하도록 방임.
관측의 단위로서의 샌드박스 격리 (Sandbox Isolation as Observability)
- 가상화된 컨테이너 환경은 단순히 공격의 확산을 막는 ‘포장지’가 아닙니다. 경계가 투명하게 분리되어 있을 때만, 평소의 시스템 노이즈 속에서 에이전트가 발생시키는 비정상 시스템 콜, 미승인 파일 접근, 이상 아웃바운드 연결(Egress traffic)을 정밀하게 탐지(관측)할 수 있습니다.