AI-Assisted Programming 온라인 세미나 시작합니다.

이 책은 생성형 AI가 코파일럿으로, 우리 개발자를 보조 하는 프로그래밍을 다룹니다. 우리가 소프트웨어 개발할 때 지루해 하던 구현(코딩)은 이제 AI 코파일럿에게 시키면 됩니다. 우리를 대신해서 AI 코파일럿은 지루해 하지 않고 지시한 일을 성실하게 해 냅니다. AI 코파일럿은 구현 단계 뿐만 아니라 소프트웨어 개발의 모든 단계에 참여할 것입니다. SW개발을 이끄는 사람...

Mr. Know-All (8) – 2024.6

메타에서 라마3를 발표했습니다. 이번 호에서는 이거 하나 다루기도 벅차네요. 자료들이 쏟아집니다. 그래도 간단히 C# 관련 자료는 별로 없으니, 이 부분 추가해서 정리 해 봅니다. http://www.umlcert.com/llama3/   라마3 로컬에서 돌리면 꽤 느립니다. 스트리밍 방식을 지원하니 초당 몇 개 안 되는 토큰 생성을 해 줘도 느린지 모를 수 있습니다. 실제 업무에 처리하면...

Kernel Memory 4. Concepts

https://microsoft.github.io/kernel-memory/concepts Index 커널 메모리는 서비스에 투입된 문서의 의미를 저장하기 위해 벡터 저장소를 활용하며, Azure AI Search, Qdrant, Elastic Search, Redis 등과 같은 솔루션을 사용합니다. 일반적으로 저장 솔루션은 각 컬렉션에 대한 최대 용량을 제공하며, 보안, 개인 정보 보호 또는 기타 중요한 이유로 데이터를 명확하게 별도의 컬렉션으로 분리해야 할 필요가 종종 있습니다....

Kernel Memory 3. Memory service

https://microsoft.github.io/kernel-memory/service LLM이 훈련 이후에 만들어진 데이터나 조직 내부 데이터는 모른다는 한계를 극복하기 위한 방법으로 RAG가 제시되었고, 조직 내부 데이터를 관리하기 위해 커널 메모리가 등장습니다. 커널 메모리는 검색 엔진과 함께 RAG를 가능하게 하는 쌍두마차라 할 수 있습니다. 커널 메모리는 애플리케이션에 임베딩 되기 보다는 독립된 서버 서비스로 실행 되는 게 적합합니다. 그래야...

Kernel Memory 1. Overview

커널 메모리는 데이터셋을 효율적으로 색인화(indexing)하고, 사용자의 자연어 질의나 생성 요청에 대해 AI 모델이 멀티 모달(텍스트, 이미지, 음성, 영상 등)로 응답할 수 있도록 하는 애플리케이션 개발을 위한 라이브러리 입니다. MIT 라이센스로 제공되는 오픈소스 입니다.    커널 메모리가 무엇인지에 대한 한 문장 소개입니다. Index and query any data using LLM and natural...

Pilot AI Smarteasy 프롬프트 분석 – website-wizard

Anthropic에서 제공하는 website-wizard 프롬프트를 역공학 합니다.  만들어진 프롬프트 내용을 기반으로, Pilot AI Smarteasy를 가지고 프롬프트 명세를 합니다.  어떤 일을 하고 있다가 생성형 AI에게 시킬 일이 생겼을까요? 원페이지 웹사이트를 개발하는 팀에서 필요로 했을 것 같습니다. 무엇을 만들어야 하는 지는 사양으로 주어지고 이를 입력으로 개발 한다고 합니다.  이 팀이 하던 일은 생성형...