문밖의 해커를 막던 사람에서 문안의 AI 일꾼을 다스리는 사람으로

제공해주신 원문에서 챗봇과 에이전트를 구분하는 가장 명쾌한 질문은 이것입니다.

“누가 운전대를 잡는가”

지금까지 우리가 접했던 AI는 대부분 우리가 질문을 던지면 대답만 해주는 ‘챗봇’이었습니다.하지만 앞으로 우리 사무실에 들어올 AI는 질문에 답만 하는 게 아니라, 스스로 계획을 세우고 실제 도구를 써서 일을 끝내버리는 ‘에이전트(Agent)’입니다.

이 자율적인 AI 일꾼들이 대거 들어오면서, 보안을 담당하는 우리의 역할도 뿌리째 바뀌게 됩니다. 무슨 뜻인지 차근차근 풀어드릴게요.

STAGE 1 — Why It Matters: AI가 ‘말꾼’에서 ‘일꾼’으로 바뀌는 순간

지금까지의 AI가 옆에서 조언만 해주던 ‘말꾼’이었다면, 에이전틱 AI는 직접 손을 움직여 업무를 처리하는 ‘일꾼’입니다.

이 책에서 다룬 위험한 AI ‘미토스’ 역시, 해킹 기술이 뛰어나서 무서웠던 게 아닙니다. 버그를 찾으라는 목표를 받자 사람의 지시 없이 스스로 가설을 세우고, 도구를 바꾸어가며 끝까지 일을 밀어붙인 ‘자율성’을 가졌기 때문에 무서웠던 것입니다.

미토스는 아주 특별한 예외가 아닙니다. 앞으로 우리 회사의 회계, 인사, 개발 업무를 대신 처리해 줄 수많은 ‘스스로 일하는 AI(에이전트)’들의 선발대에 불과합니다.

STAGE 2 — Unpacking the Core Concept: 챗봇 vs 코파일럿 vs 에이전트

‘AI 에이전트’가 기존 AI와 어떻게 다른지 차를 운전하는 상황에 빗대어 비교해 보겠습니다.

 <span class="hljs-selector-attr">[ 챗봇 (Chatbot) ]</span>     ──&gt;  내비게이션 (길만 알려줌, 운전은 사람이 함)
 <span class="hljs-selector-attr">[ 코파일럿 (Copilot) ]</span>  ──&gt;  보조 운전자 (옆에서 핸들을 살짝 잡아줌, 최종 운전은 사람이 함)
 <span class="hljs-selector-attr">[ 에이전트 (Agent) ]</span>    ──&gt;  자율주행 / 대리운전 (목적지만 말하면 알아서 운전해서 destination 도달)

[ 챗봇 (Chatbot) ] ──> 내비게이션 (길만 알려줌, 운전은 사람이 함)

[ 코파일럿 (Copilot) ] ──> 보조 운전자 (옆에서 핸들을 살짝 잡아줌, 최종 운전은 사람이 함)

[ 에이전트 (Agent) ] ──> 자율주행 / 대리운전 (목적지만 말하면 알아서 운전해서 destination 도달)

구분	챗봇 (Chatbot)	코파일럿 (Copilot)	AI 에이전트 (Agent) 🎯
인간의 역할	질문하고 답을 읽음	제안을 검토하고 직접 실행	목표만 주고, 위험 시 승인만 함
AI의 행동	묻는 말에 답만 함	옆에서 보조(코드 추천 등)	스스로 계획·도구 사용·실행
운전대	사람이 100% 잡음	사람이 잡고 AI가 거듦	AI가 직접 잡음

참고: ‘AI 에이전트’가 낱개의 일꾼 하나하나를 뜻한다면, ‘에이전틱 AI’는 그렇게 스스로 일하는 성질이나 방식을 통틀어 부르는 말입니다!

STAGE 3 — Evidence and Application: 뒤집힌 위협 모델 (문안의 일꾼을 다스려라)

에이전트가 운전대를 잡고 우리 사무실 안으로 들어오는 순간, 보안의 패러다임이 완전히 뒤집힙니다.

기존의 보안은 “문밖에 있는 나쁜 해커가 들어오지 못하게 문을 잠그는 일”이었습니다. 하지만 에이전틱 AI 시대의 보안은 “내가 직접 돈을 주고 들여놓은 AI 일꾼이 내 권한을 가지고 사고 치지 않게 다스리는 일”로 바뀝니다.

 <span class="hljs-selector-attr">[ 과거의 보안 ]</span> :  <span class="hljs-selector-attr">[문밖의 해커]</span> ──(막기)──&gt; <span class="hljs-selector-attr">[회사 성벽]</span>
                                                   
 <span class="hljs-selector-attr">[ 현대의 보안 ]</span> :  <span class="hljs-selector-attr">[회사 내부]</span> ──&gt; <span class="hljs-selector-attr">[내 권한을 쥔 AI 에이전트]</span> ──(다스리기)──&gt; <span class="hljs-selector-attr">[안전한 업무]</span>

[ 과거의 보안 ] : [문밖의 해커] ──(막기)──> [회사 성벽]

[ 현대의 보안 ] : [회사 내부] ──> [내 권한을 쥔 AI 에이전트] ──(다스리기)──> [안전한 업무]

🔑 왜 AI 일꾼이 위험해질 수 있을까요?

개발자나 직원들이 일을 편하게 시키려고 AI 에이전트에게 회사 시스템에 접근할 수 있는 열쇠(비인간 신원 / NHI; Non-Human Identity)와 과도한 권한을 쥐여주기 때문입니다.

만약 이 에이전트가 외부에서 악의적인 지시문(프롬프트 주입)을 받게 되면, 내가 들여놓은 AI 일꾼이 나의 정당한 권한을 이용해 회사의 데이터를 유출하는 ‘내부자’로 돌변할 수 있습니다.

🛡️ 방어자가 취해야 할 3대 통제 원칙 (20~21장의 재해석)

따라서 방어자는 미토스를 막기 위해 세웠던 원칙을 사내 AI 일꾼에게 똑같이 적용해야 합니다.

최소 에이전시 (Least Agency): AI 일꾼에게 처음부터 모든 열쇠를 주지 말고, 일을 하는 그 순간에만 꼭 필요한 최소한의 권한(JIT)만 잠깐 줍니다.
관측가능성 (Observability): AI 일꾼이 어떤 파일을 열어보았고 어디로 데이터를 보냈는지 기록을 남기고 투명하게 들여다봅니다.
인간 통제 및 킬 스위치 (HITL & Kill Switch): 결제나 데이터 삭제 같은 결정적 순간에는 사람이 승인하게 만들고, 이상 행동을 하면 즉시 끄는 차단 스위치를 준비합니다.

즉, 방어자(Defender)는 이제 AI 시스템을 안전하게 운영하는 운영자(Operator)가 되어야 합니다.

STAGE 4 — Summary and Extension: 전체 시리즈 총요약 및 자가 점검

이로써 AI 보안을 가로지르는 긴 여정이 마무리되었습니다!

에이전틱 AI의 본질: AI가 질문에 답만 하는 ‘말꾼’에서 직접 운전대를 잡고 일을 끝내는 ‘일꾼’으로 진화했습니다.
뒤집힌 위협 모델: 보안의 대상이 ‘문밖의 적’에서 ‘문안에서 권한을 쥐고 움직이는 AI 일꾼’으로 확장되었습니다.
방어자의 자세: 기술을 무작정 막는 것이 아니라, 최소 권한, 투명한 감시, 사람의 최종 승인을 통해 AI 자율성을 안전하게 다스려야 합니다.