저스틴) 개발하고 있는 코드를 저스틴에 주고 분석하라고 했습니다.

주신 코드를 바탕으로 이 프로그램이 단순한 챗봇을 넘어 스스로 생각하고 행동하며 도구를 사용하는 최첨단 AI 에이전트(PilotAIAgent) 시스템이라고 이해했어요. 그 이유는 코드 내에 목표를 스스로 달성하는 PacePilot과 정해진 계획표대로 움직이는 PlanPilot이 핵심 엔진으로 설계되어 있기 때문이랍니다. 혹시 다른 의미였다면 언제든 말씀해주세요!

코딩 초보도 이해하는 AI 에이전트 만들기: 스스로 생각하고 행동하는 프로그램의 비밀!

안녕하세요, 여러분! 일타 강사 저스틴입니다! 👨‍🏫

오늘은 정말 엄청난 걸 가져왔어요. 방금 우리가 살펴본 길고 복잡한 C# 코드는 바로 ‘스스로 생각하고 행동하는 인공지능’, 즉 AI 에이전트의 설계도랍니다! 영어로 된 코드라고 겁먹을 필요 없어요. 저스틴과 함께라면 아주 쉽거든요!

스스로 생각하고 움직이는 자율 주행 AI, PacePilot

어려운 개념, 저스틴이 아주 쉽게 풀어드릴게요!

코드에 있는 PacePilot은 목표만 딱 주면 스스로 방법을 찾는 아주 똑똑한 시스템이에요. ReAct(추론-행동-관찰)라는 방식을 쓰죠.

[가상 사례] 여러분이 최신형 로봇 청소기에게 “내 방 좀 치워줘”라고 명령했다고 해볼까요?

추론(Thought): ‘방 바닥에 종이 쓰레기가 있네? 이걸 먼저 치워야겠다.’
행동(Action): ‘진공 흡입 스킬(Skill) 사용!’
관찰(Observation): ‘쓰레기가 없어졌네. 다음은 물걸레질을 해야지.’

이렇게 목표에 도달할 때까지 스스로 도구를 고르고 상황을 파악하며 행동하는 거예요. 정말 대단하죠?

철저한 계획표대로 움직이는 모범생, PlanPilot

반면에 PlanPilot은 스스로 딴짓을 하지 않고, 미리 짜여진 ‘워크플로(Workflow)’라는 계획표대로만 움직여요.

[가상 사례] 여러분의 학교 시간표를 생각해 보세요. ‘1교시 국어, 2교시 수학, 만약 비가 오면(Switch 조건문) 체육 대신 자습!’ 이렇게 정해진 흐름대로 정확하게 임무를 수행하는 모범생 친구라고 보면 이해하기 쉬울 거예요.

인공지능의 만능 도구 상자와 안전 요원

AI가 아무리 똑똑해도 망치나 드라이버 같은 도구가 없으면 일을 못 하겠죠? 코드 안에는 FileSystemSkill(파일 읽고 쓰기), WebSkill(인터넷 검색하기), PowerShellSkill(컴퓨터 직접 조작하기) 같은 든든한 도구들이 꽉 차 있어요.

여러분, 여기서 궁금한 점 생기시죠? “인공지능이 내 컴퓨터 파일을 마음대로 지우거나 해킹하면 어떡하나요?” 바로 이거예요! 가장 중요한 [포인트!]는 바로 SecurityGuard라는 안전장치랍니다.

AI가 시스템을 건드리는 중요한 명령을 내리기 전에 반드시 화면에 창을 띄워서 “사용자님, 이거 진짜 실행할까요?” 하고 우리(사람)의 허락을 받도록 만들어둔 거예요. 이렇게 사람이 직접 통제하는 것을 ‘Human-in-the-Loop’라고 부르는데, 안전한 AI를 만드는 [핵심은!] 바로 이 부분에 있답니다.

오늘의 정리

첫째, PacePilot은 스스로 상황을 파악하고 행동하는 자율 탐색 인공지능이에요. 둘째, PlanPilot은 정해진 워크플로(계획표)에 따라 정확하게 일하는 꼼꼼한 인공지능이죠. 셋째, 에이전트는 다양한 스킬(도구)을 쓰지만, 위험한 행동을 하기 전에는 반드시 사람의 승인을 받는 안전장치(SecurityGuard)가 있어요.

[실천 과제] 오늘 당장 해볼 수 있는 것: 내 컴퓨터 바탕화면에 있는 파일들을 정리할 때, ‘내가 만약 PlanPilot이라면 어떤 순서(워크플로)로 정리할까?’ 하고 종이에 순서도를 한 번 끄적여보세요! 일의 효율이 확 달라질 거예요!

코드를 보면 PlanPilot의 워크플로 실행기 내부에 System.PaceAgent를 서브 태스크로 호출할 수 있는 로직이 명확히 구현되어 있습니다.

이는 전체 프로세스를 딱딱한 순서도로만 제어하는 것이 아니라, 결정론적 제어(deterministic control)와 비결정론적 자율성(non-deterministic autonomy)을 결합한 하이브리드 아키텍처를 의도한 것입니다.

업무 시스템을 설계할 때 이 구조가 갖는 엔지니어링적 이점은 다음과 같습니다.

통제권 유지 보안 인가, 데이터베이스 저장, 규정 준수 검토처럼 절대 틀려서는 안 되는 핵심 비즈니스 로직은 인간 전문가가 정의한 워크플로가 강제합니다.
창발성 위임 사전 정의가 불가능한 동적 상황(예: 특정 웹사이트 구조 변경에 따른 검색 방식 적응, 에러 원인 추론)은 자율 에이전트에게 권한을 위임(delegate)하여 해결합니다.

이러한 설계는 AI의 환각(hallucination) 리스크를 시스템 레벨에서 격리하면서도, AI 특유의 문제 해결 능력을 실무에 안전하게 도입하는 최상위 수준의 아키텍처 패턴입니다.