Category

LLM이 갖지 않은 – 사전 훈련되지 않은 – 데이터를 사용해야 할 때가 있다. 이들 데이터 또한 사용되려면  디지털 이어야 합니다. LLM에 더해서 사용될 데이터는 대부분 텍스트지만, 멀티모달 지원으로 음성이나 이미지나 영상으로 있어도 됩니다. 데이터는 필요로 할 때 작성되어 전달될 때도 있지만, 주로 파일로 저장되어 있거나 데이터베이스에서 관리되거나 웹 페이지에 있을...

이 책은 생성형 AI가 코파일럿으로, 우리 개발자를 보조 하는 프로그래밍을 다룹니다. 우리가 소프트웨어 개발할 때 지루해 하던 구현(코딩)은 이제 AI 코파일럿에게 시키면 됩니다. 우리를 대신해서 AI 코파일럿은 지루해 하지 않고 지시한 일을 성실하게 해 냅니다. AI 코파일럿은 구현 단계 뿐만 아니라 소프트웨어 개발의 모든 단계에 참여할 것입니다. SW개발을 이끄는 사람...

메타에서 라마3를 발표했습니다. 이번 호에서는 이거 하나 다루기도 벅차네요. 자료들이 쏟아집니다. 그래도 간단히 C# 관련 자료는 별로 없으니, 이 부분 추가해서 정리 해 봅니다. http://www.umlcert.com/llama3/   라마3 로컬에서 돌리면 꽤 느립니다. 스트리밍 방식을 지원하니 초당 몇 개 안 되는 토큰 생성을 해 줘도 느린지 모를 수 있습니다. 실제 업무에 처리하면...

https://microsoft.github.io/kernel-memory/concepts Index 커널 메모리는 서비스에 투입된 문서의 의미를 저장하기 위해 벡터 저장소를 활용하며, Azure AI Search, Qdrant, Elastic Search, Redis 등과 같은 솔루션을 사용합니다. 일반적으로 저장 솔루션은 각 컬렉션에 대한 최대 용량을 제공하며, 보안, 개인 정보 보호 또는 기타 중요한 이유로 데이터를 명확하게 별도의 컬렉션으로 분리해야 할 필요가 종종 있습니다....