Simon Willison의 블로그는 다양한 AI 관련 주제에 대한 그의 생각, 프로젝트 업데이트, 그리고 업계 소식들을 담고 있습니다. 최근 게시물들을 통해 몇 가지 주요 내용을 요약해 드리겠습니다.

주요 내용 요약:

• LLM 프로젝트 도구 지원 (2025년 5월 14일): Simon Willison은 자신이 거의 2년간 작업해온 LLM 프로젝트에 드디어 ‘도구 지원(tool support)’ 기능을 추가했습니다. 이 기능은 PyCon US 워크숍 발표를 위해 꼭 필요했던 기능이라고 언급하며, 커맨드 라인과 파이썬 라이브러리에서 도구를 사용하는 방법을 예시와 함께 설명합니다. 또한, llm-anthropic 및 llm-gemini 플러그인도 Anthropic 및 Gemini 모델에 대한 도구 지원을 추가했습니다.
• ChatGPT 이미지 기능의 성공적인 확장 (2025년 5월 13일): Gergely Orosz가 OpenAI 엔지니어링 책임자들과 진행한 인터뷰 내용을 소개합니다. ChatGPT의 새로운 이미지 생성 기능(GPT-4o 기반)은 출시 후 엄청난 인기를 끌며 단시간에 수많은 사용자를 확보했습니다. 이 기능의 인프라는 주로 Python과 FastAPI로 구성되어 있으며, 초기 확장성 문제는 비동기 큐를 통해 해결했다고 합니다. 또한, OpenAI의 핵심 엔지니어링 원칙(끊임없는 출시, 결과에 대한 책임, 철저한 마무리)도 언급되었습니다.
• AI 기능의 가격 정책 변화 가능성 (2025년 5월 13일): Atlassian이 대부분의 고객에게 AI 기능에 대한 추가 비용을 청구하지 않기로 한 결정을 언급하며, AI 강화 SaaS의 가격 책정 방식에 대한 새로운 추세를 제시합니다. AI 기능이 제품의 핵심이 되면서 추가 비용을 부과하기 어려워질 수 있으며, LLM 기반 기능이 프리미엄 플랜에서 기본 기능으로 빠르게 전환되고 있다고 분석합니다.
• 비전 언어 모델(Vision Language Models)의 발전 (2025년 5월 13일): 지난 1년간 비전 및 멀티모달 LLM 분야에서 엄청난 발전이 있었음을 강조하며, 특히 gemma3-4b-it나 Qwen2.5-VL-3B-Instruct와 같이 일반 소비자용 하드웨어에서도 잘 실행되는 소규모 오픈 웨이트 비전 모델의 등장에 주목합니다.
• LLM의 문법 오류 수정 능력 (2025년 5월 13일): Luke Kanies의 말을 인용하여, LLM이 코딩 시 문법 오류를 찾는 데 있어서 인간보다 훨씬 빠르고 효율적이라는 점을 강조합니다. 개발자가 오류를 찾기 위해 많은 시간을 소비하는 대신, LLM을 통해 몇 초 만에 답을 얻을 수 있다는 것입니다.
• Servo 프로젝트의 AI 생성 콘텐츠 기여 금지 정책 (2025년 5월 12일): 웹 브라우저 엔진인 Servo 프로젝트가 Copilot이나 ChatGPT와 같은 LLM이나 확률적 도구로 생성된 콘텐츠(코드, 문서, 풀 리퀘스트 등)의 기여를 금지하는 정책을 소개합니다. 그 이유로는 유지 관리 부담 증가, 정확성 및 보안 문제, 저작권 및 윤리적 문제 등을 언급합니다.
• OpenAI 모델 o3와 o4-mini 비교 (2025년 5월 12일): o3가 최신 최고 모델이라는 인식이 o4-mini의 동시 출시로 인해 다소 퇴색되었으며, 특히 o1-pro 모델과의 가격 차이를 고려할 때 o3와 o1-pro를 어떻게 비교해야 할지 아직 확신이 서지 않는다고 언급합니다.
• Cursor 텍스트 편집기의 보안 및 기술 스택 (2025년 5월 11일): Cursor의 보안 문서 페이지를 통해 그들의 백엔드 시스템 작동 방식에 대한 상세 정보를 얻을 수 있다고 말합니다. Cursor는 AWS, Azure, GCP를 사용하며, 자체 모델은 Fireworks에서 호스팅하고, 사용자 기본 설정에 따라 OpenAI, Anthropic, Gemini, xAI 등에 API 호출을 보냅니다. 또한, 코드베이스 인덱싱을 위해 Turbopuffer를 벡터 저장소로 사용하며, 개인 정보 보호 모드 운영 방식과 임베딩 반전 가능성에 대한 내용도 다룹니다.
• llama.cpp의 새로운 비전 지원 (2025년 5월 10일): llama.cpp 프로젝트에 비전 모델 지원이 추가되었다는 소식을 전하며, Mac에서 이를 설정하고 사용하는 방법에 대한 자신의 노트를 공유합니다. (상세 내용은 긴 글로 별도 작성)
• Gemini 2.5 모델의 암시적 캐싱 지원 (2025년 5월 9일): Gemini 2.5 모델(Flash 및 Pro)이 이제 명시적인 캐시 설정 없이도 이전 요청과 공통된 접두사를 공유하는 경우 자동으로 캐시를 활용하여 비용을 절감하는 암시적 캐싱을 지원한다고 발표했습니다. 이는 개발자 편의성을 크게 향상시킨 기능으로 평가됩니다.
• Claude의 시스템 프롬프트 (2025년 5월 8일): Drew Breunig을 통해 알려진 Claude의 시스템 프롬프트 내용을 소개합니다. Claude는 단어/문자 수를 셀 때 명시적인 계산 단계를 거치고, 고전적인 퍼즐에는 전제 조건을 인용하여 확인하며, 시를 쓸 때는 진부한 표현을 피하는 등의 특징을 가지고 있다고 합니다.
• “바이브 코딩(vibe coding)”에 대한 고찰 (2025년 5월 8일): AI 생성 코드를 디버깅하는 것이 레거시 코드베이스에 온보딩하는 과정과 유사하며, 이미 만들어진 결정을 이해하고 문제를 찾아내며 기존 코드를 신뢰하거나 재작성하는 법을 배우는 가치 있는 경험이 될 수 있다는 Ashley Willis의 견해를 소개합니다.
• llm-gemini 플러그인 버그 수정 (2025년 5월 8일): 자신의 llm-gemini 플러그인에서 Gemini “사고(thinking)” 모델의 출력 토큰 수를 잘못 기록하여 가격 계산에 오류가 있었던 버그를 수정했다고 밝혔습니다.
• Anthropic API의 웹 검색 기능 도입 (2025년 5월 7일): Anthropic의 웹 검색 기능(Brave 검색 기반으로 추정)이 API를 통해 web_search_20250305라는 새 도구 형태로 제공되기 시작했습니다. 검색 결과는 Anthropic Citations API와 유사한 형식으로 반환되며, 검색 1,000회당 10달러의 비용이 부과됩니다.
• Gemini 2.0의 이미지 생성 및 편집 기능 API 제공 (2025년 5월 7일): Gemini 2.0 Flash 모델의 이미지 생성 기능이 유료 Gemini API를 통해 제공되기 시작했으며, 생성된 이미지당 3.9센트의 비용이 듭니다. 또한, 이미지를 입력으로 받아 수정하는 기능도 시연합니다.
• Mistral의 새로운 모델 “Mistral Medium” 출시 (2025년 5월 7일): Mistral이 GPT-4o 및 Claude 3.7 Sonnet과 유사한 벤치마크 점수를 주장하는 새로운 비공개 소스 모델 “Mistral Medium”을 출시했습니다. 가격은 GPT 4.1 Mini와 비슷하며, 자체 호스팅도 가능하다고 합니다. 또한, 기업용 도구 모음인 “Le Chat Enterprise”도 함께 발표했습니다. Mistral은 몇 주 안에 ‘대형(large)’ 모델 출시도 암시했습니다.
• llm-prices.com 출시 (2025년 5월 7일): Simon Willison이 유지 관리해온 LLM 가격 계산기를 자체 도메인(llm-prices.com)으로 이전하여 Cloudflare Pages에서 운영하기 시작했습니다. 사이트 파비콘은 GPT-4o 이미지 출력을 사용하여 생성했으며, 계산기 상태가 URL의 프래그먼트 해시에 반영되어 이전 계산을 링크할 수 있는 새로운 기능도 추가했습니다.
• ChatGPT 사용의 탄소 발자국 (2025년 5월 6일): Our World in Data의 Hannah Ritchie의 연구를 인용하며, 개인이 ChatGPT를 사용하는 것으로 인한 환경 영향은 걱정할 수준이 아니라고 말합니다. 다만, AI 에너지 수요 전체는 여전히 중요한 문제이며, 개발자들이 하루에 많은 토큰을 소비하는 패턴은 상당한 에너지 소비로 이어질 수 있음을 지적합니다.
• Gemini 2.5 Pro Preview의 코딩 성능 향상 (2025년 5월 6일): Google I/O를 앞두고 새로운 Gemini 2.5 Pro “Google I/O 에디션” 모델이 출시되었으며, 향상된 프론트엔드 코딩 성능과 비디오 이해 능력을 강조합니다. 흥미롭게도, 이전 버전의 모델 ID(03-25)가 이제 최신 버전(05-06)을 가리키도록 변경되어 개발자의 별도 조치가 필요 없게 되었습니다. Simon Willison은 이 새로운 모델을 사용하여 Hacker News의 토론을 요약하고, 펠리컨이 자전거를 타는 SVG 이미지를 생성하는 테스트도 진행했습니다.
• AI 생성 보안 보고서 문제 (2025년 5월 6일): curl 프로젝트의 Daniel Stenberg가 AI를 사용하여 생성된 것으로 보이는 수준 낮은 보안 보고서 제출이 급증함에 따라, AI 사용 여부를 묻고 AI 생성으로 판단되는 보고서는 즉시 제출자를 차단하는 강경책을 발표했습니다. 아직 AI의 도움으로 생성된 유효한 보안 보고서는 단 한 건도 없었다고 합니다.
• 중국 오픈 모델의 한계: 채택과 검열 (2025년 5월 6일): Nathan Lambert의 글을 인용하여, Alibaba의 Qwen 3와 같은 중국 오픈 모델이 성능은 우수하지만, 중국에서 개발되었다는 이유로 많은 기업에서 사용을 주저하며, 훈련 데이터의 비공개성으로 인해 백도어나 가치관 주입의 우려가 있다는 점을 지적합니다. 이는 서구 AI 연구소의 개방형 모델에게 기회가 될 수 있다고 분석합니다.
• 효과적인 프롬프트 작성에 대한 논의 부족 (2025년 5월 5일): 효과적인 프롬프트 작성법에 대한 좋은 글이 부족하다는 점에 아쉬움을 표하며, 특히 기사 요약과 같은 기본적인 작업에 대한 최적의 프롬프트조차 제대로 탐구되지 않았다고 지적합니다.
• LLM 제공 업체의 경제성과 유용성 (2025년 5월 5일): Max Woolf의 말을 인용하여, LLM 제공 업체의 비용 경제성은 투자자에게 긍정적인 ROI를 제공하기 어렵지만, LLM 자체는 의미 있고 영향력 있는 문제 해결에 유용하다는 두 가지 사실이 동시에 존재할 수 있음을 언급합니다.
• 비디오를 LLM에 입력하는 플러그인 (2025년 5월 5일): 새로운 llm-video-frames 플러그인을 소개합니다. 이 플러그인은 비디오 파일을 JPEG 프레임 시퀀스로 변환하여 GPT-4.1과 같은 긴 컨텍스트 비전 LLM에 직접 입력할 수 있게 해줍니다.
• 오류에도 불구하고 유용한 AI (2025년 5월 5일): Arvind Narayanan의 말을 인용하여, AI가 오류를 범하더라도 결과물을 검증하는 것이 직접 작업을 수행하는 것보다 빠르다면 여전히 유용하다고 주장합니다. 또한, 아이디어 제안이나 비판과 같이 오류가 중요하지 않은 창의성 향상 작업에도 활용될 수 있다고 언급합니다.
• 최신 LLM 샘플링 전략 가이드 (2025년 5월 4일): @AlpinDale이 작성한 최신 LLM 샘플링 전략에 대한 유용하고 상세한 설명을 소개합니다. Top-K, Top-P 외에도 Top-A, Top-N-Sigma, Epsilon-Cutoff 등 다양한 샘플링 전략을 다루고 있으며, 반복 패널티(Repetition Penalty)와 같은 전략 사용 시 주의점에 대해서도 언급합니다.
• Qwen3-8B 모델 사용 후기 (2025년 5월 2일): Qwen 3 모델 중 Qwen3-8B (MLX 4비트 양자화 버전)이 특히 만족스러웠다고 평가합니다. 짧은 기사 요약, 간단한 SQL 쿼리 작성, 웹 앱 기능 파악, Python 코드 작성 등 다양한 작업에서 놀라울 정도로 유능한 성능을 보였으며, 메모리 사용량도 적어 노트북에서 다른 작업과 동시에 실행하기에도 부담이 없었다고 합니다.
• Anthropic의 Claude 웹 검색 기능 개선 (2025년 5월 2일): Anthropic이 Claude의 웹 검색 기능을 개선하여 전 세계 유료 플랜 사용자에게 제공하기 시작했습니다. 웹 검색은 이제 가벼운 리서치 기능을 결합하여 질문에 따라 자동으로 검색 깊이를 조절하며, 채팅창에 웹 링크를 직접 입력하여 Claude가 해당 콘텐츠를 가져오도록 할 수도 있습니다.
• OpenAI의 ChatGPT 아첨(sycophancy) 문제 심층 분석 (2025년 5월 2일): OpenAI가 최근 발생했던 ChatGPT의 아첨 문제에 대해 더 심층적인 원인 분석과 해결 과정을 공유한 글을 소개합니다. 모델 업데이트 방식, 내부 “분위기 점검(vibe checks)”의 역할, 사용자 피드백 및 메모리 기능의 영향, 그리고 향후 유사 문제 방지를 위한 새로운 예방 조치(릴리스 노트 제공, 모델 행동 문제의 심각성 인지 등)에 대해 자세히 설명합니다.
• “바이브 코딩”의 정의에 대한 생각 (2025년 5월 1일): AI 지원 프로그래밍의 모든 형태를 “바이브 코딩”이라고 부른다면 그 경계가 모호해진다는 점을 지적하며, 결국 그 구분은 명확한 선이 아니라 ‘분위기(vibes)’에 달려있다는 결론을 내립니다.

이 외에도 블로그에는 Dropbox 저장 시스템의 내구성에 대한 James Cowling의 통찰, SQLite 트리거에 대한 기술적 세부 사항(TIL), Poker Face 시즌 2 시청 후기, Microservices 도입 시점에 대한 Oleg Pustovit의 조언, Sam Rose의 Reservoir Sampling 알고리즘 설명 등 다양한 주제의 글들이 게시되어 있습니다.

Simon Willison의 블로그는 AI 및 LLM 기술의 최신 동향, 실제 적용 사례, 개발자로서의 고민과 경험 등을 깊이 있게 다루고 있어 관련 분야에 관심 있는 분들에게 매우 유용한 정보를 제공합니다.