오프라인 에이전트 AI, 너도 만들 수 있어! (feat. Hassan Habib)

안녕하세요, 여러분! AI 길라잡이 저스틴입니다. 😎

오늘 우리가 함께 파헤쳐 볼 주제는 바로 **”오프라인 에이전트 AI 구축”**입니다. 🤯 딱딱한 용어 때문에 벌써부터 졸음이 쏟아진다면, 잠시만 집중! 저, 저스틴이 쉽고 재미있게 풀어서 설명해 드릴게요. 오늘 강의, 절대 놓치면 후회할 겁니다! 😉

오늘의 강의 목표는 단 하나! 🎯

Hassan Habib 님의 유튜브 영상을 완벽하게 이해하고, 여러분도 나만의 AI 에이전트를 만들 수 있도록 돕는 것입니다.

자, 그럼 출발해 볼까요? Let’s get it! 🚀

1. 영상 개요: “오프라인 에이전트 AI”가 대체 뭔데요? 🤔

Hassan Habib 님의 영상은 두 마리 토끼를 잡으려고 합니다.

첫째, 인터넷 없이도 작동하는 AI 에이전트를 만든다. 📶❌
둘째, 스스로 문제를 해결하는 똑똑한 AI 에이전트를 만든다. 🧠💡

이 두 가지 목표를 위해 영상에서는 다음과 같은 핵심 내용들을 다룹니다.

AI 시스템을 “에이전트화”하는 요소: AI를 단순한 도구가 아닌, 자율적인 “에이전트”로 만드는 핵심 요소들을 분석합니다. 🔑
프롬프트 → 사고 → 도구 → 반영 루프 구축 방법: AI 에이전트가 작업을 수행하는 핵심 흐름을 설계하는 방법을 설명합니다. 🔄
로컬 모델을 사용하여 MSSQL 데이터베이스 쿼리 방법: 로컬 환경에서 AI 모델이 데이터베이스와 소통하는 방법을 보여줍니다. 🗣️
환각 및 실행 오류 감지 및 복구 방법: AI가 엉뚱한 소리를 하거나, 코드가 꼬였을 때 스스로 고치는 방법을 알아봅니다. 🐛🔨
재시도 논리 및 스키마 내성을 사용한 실제 코드 연습: 앞에서 배운 내용들을 실제 코드로 구현하는 방법을 꼼꼼하게 살펴봅니다. 💻

핵심 기술은 바로 LLM(Large Language Model)! 🤖💬

LLM은 인간의 언어를 이해하고 생성할 수 있는 강력한 AI 모델입니다. Hassan Habib 님은 Mistral-7B-Instruct라는 LLM을 사용합니다.

추가 기술 스택: Python, llama.cpp, MSSQL, pyodbc 🛠️

2. 핵심 개념 분석: “에이전트 AI”, 대체 뭐가 다른 건데요? 🧐

“에이전트 AI”: 그냥 AI랑 뭐가 다른 걸까요? 🤔

자율성 (Autonomy): 스스로 목표를 설정하고, 필요한 정보를 찾고, 문제를 해결하는 능력. 마치 여러분이 혼자 숙제를 하는 것과 같아요! 🤓
추론 및 적응 (Reasoning and Adaptation): 주어진 상황을 분석하고, 논리적인 판단을 내리고, 변화에 유연하게 대처하는 능력. 마치 여러분이 시험 문제를 풀 때 겪는 사고 과정과 비슷하죠! 🧠
목표 지향적 행동 (Goal-Oriented Behavior): 오직 목표 달성만을 위해 집중하고, 끈기 있게 노력하는 능력. 마치 여러분이 원하는 대학에 합격하기 위해 공부하는 모습과 같습니다! 📚

프롬프트 → 사고 → 도구 → 반영 루프: 에이전트 AI의 “두뇌” 🧠

프롬프트 (Prompt): AI에게 던지는 질문 또는 명령. “오늘 날씨 어때?” 또는 “데이터베이스에서 최고 점수 학생 찾아줘!” 와 같은 것이죠. 🗣️
사고 (Think): 프롬프트를 이해하고, 해결 방법을 계획하는 단계. 마치 여러분이 문제를 이해하고 풀이 전략을 세우는 것과 같습니다. 🤔
도구 (Tool): 필요한 도구나 API를 사용하여 실제로 작업을 수행하는 단계. 데이터베이스에 접속하거나, 웹 검색을 하거나, 코드를 실행하는 것이죠. 🛠️
반영 (Reflect): 결과를 평가하고, 오류를 수정하고, 다음 단계를 계획하는 단계. 마치 여러분이 시험 답안을 검토하고, 틀린 문제를 다시 풀어보는 것과 같습니다. 🧐

저스틴) 업무 전문가는 AI가 무엇을 해야 할 지를 정해 줍니다. 해야 할 일 목표만 줍니다. AI는 이 목표 달성을 위해 사고하고 어떤 도구를 사용할 지를 정해 할 일을 합니다. 결과에 따라 다음을 행합니다.

3. 코드 walkthrough: ” show me the code! ” 💻

(이 부분은 영상의 코드 부분을 직접 보면서 설명하는 것이 효과적입니다. 블로그에서는 핵심 코드 스니펫과 설명을 제공하고, 영상 시청을 권장합니다.)

[핵심 코드 스니펫 1] 데이터베이스 스키마 정보 획득

def get_database_schema(cursor):
    # ... (데이터베이스 테이블 및 컬럼 정보를 가져오는 코드) ...
    return schema

def get_database_schema(cursor):

# ... (데이터베이스 테이블 및 컬럼 정보를 가져오는 코드) ...

return schema

[저스틴 설명] 이 함수는 데이터베이스의 “뼈대” 정보를 가져오는 역할을 합니다. AI가 데이터베이스에 어떤 테이블이 있는지, 각 테이블에는 어떤 컬럼이 있는지 알아야 제대로 쿼리를 날릴 수 있겠죠? 마치 여러분이 건물을 짓기 전에 설계도를 보는 것과 같습니다. 🏗️

[핵심 코드 스니펫 2] LLM 프롬프트 생성

def build_llm_prompt(question, database_schema, error_message=None, previous_sql=None):
    # ... (LLM에게 보낼 프롬프트를 만드는 코드) ...
    return prompt

def build_llm_prompt(question, database_schema, error_message=None, previous_sql=None):

# ... (LLM에게 보낼 프롬프트를 만드는 코드) ...

return prompt

[저스틴 설명] 이 함수는 AI에게 어떤 질문을 할지 정하는 역할을 합니다. 데이터베이스 스키마 정보, 이전 쿼리 오류 정보 등을 함께 제공하여 AI가 더 정확한 답변을 내놓을 수 있도록 돕습니다. 마치 여러분이 친구에게 질문할 때, 필요한 정보를 함께 알려주는 것과 같습니다. 💬

[핵심 코드 스니펫 3] SQL 쿼리 실행 및 결과 처리

def execute_sql(cursor, sql):
    # ... (SQL 쿼리를 실행하고 결과를 가져오는 코드) ...
    return result

def execute_sql(cursor, sql):

# ... (SQL 쿼리를 실행하고 결과를 가져오는 코드) ...

return result

[저스틴 설명] 이 함수는 실제로 데이터베이스에 SQL 쿼리를 날리고 결과를 가져오는 역할을 합니다. AI가 생성한 쿼리를 실행하고, 결과를 분석하여 사용자에게 필요한 정보를 제공합니다. 마치 여러분이 검색 엔진에 검색어를 입력하고 결과를 확인하는 것과 같습니다. 🔍