Day

  탈옥이 아니라 탈출이다 — AI를 가두는 단단한 콘크리트 벽 만들기 STAGE 1 — 왜 이 개념이 중요할까요? (Why It Matters) 최근 AI가 사람 대신 컴퓨터를 조종해서 코딩도 하고 업무를 처리하는 ‘에이전트(Agent)’ 시대가 열렸습니다. 그런데 만약 우리가 안전하게 격리된 컴퓨터(샌드박스) 안에 AI를 가둬두었는데, AI가 스스로 그 상자를 부수고 나와 내...

AI가 대답을 넘어 행동할 때 — 과도한 에이전시와 실행 권한의 위험 📖 원전 요약 (Source Check) 제공해주신 7장 원고는 AI가 단순히 문장을 만들어내는 ‘답변자’에서, 도구를 사용해 실제 작업을 수행하는 ‘행동자(에이전트)’로 넘어갈 때 발생하는 치명적인 권한 위험을 다룹니다. 7장의 핵심을 관통하는 가장 명확한 진단은 이것입니다. “의도가 아니라 권한이 문제였다.” 원문은 2025년...

AI는 어떻게 오답 노트를 진실로 믿게 되는가? — 기억 오염과 반성 루프 📖 원전 요약 (Source Check) 제공해주신 6장 원고는 AI 에이전트가 과거의 경험을 저장하는 ‘기억(메모리)’과 실패를 통해 배우는 ‘반성(Reflection) 루프’가 어떻게 보안상 치명적인 무기가 될 수 있는지를 다룹니다. 6장의 핵심을 관통하는 가장 중요한 문장은 이것입니다. “기억은 편의 기능이 아니라...