llm은 이름에도 나타나듯이 언어 모델이다. 언어 모델이 어디에 쓰일까? 쉽게 생각할 수 있는 것 – 질의응답이나 채팅, 다른 언어권을 고려한다면 번역도. llm이 보여주는 성과를 보면 어떻게 활용될지는 쉽게 이야기하기가.

언어 모델을 질의 응답이나 채팅과 같은 목적을 갖는 문제 해결 관점에서 보면, 텍스트로 작성된 입력에 대한 텍스트 출력이라고 할 수 있다. 질의 라는 입력에 모델이 응답이라는 출력을 만든다.

문제는 입력은 주로 사람이 하고 출력은 llm이 담당한다는데 둘이 많이 다르다는 것이다.

llm은 사람이 아니고, 만들어진 목적에 따라 만들어진 방법을 따른다는 것이다. llm이 출력을 잘 만들려면 llm이 잘할 수 있는 방법으로 입력이 만들어져야 한다.

llm도 프로그램이다. 터미널에서 프로그램을 실행하려면 사람이 텍스트로 작성한 명령을 프로그램에 전달하는 콘솔이 필요하다. 사람과 llm은 아직 gui가 아니라 콘솔로 상호작용하고 있는 것이다. 음성을 사용할 수 있지만 이 또한 입력 작성을 위한 수단이 바뀐 것 뿐이지 내용은 같다. llm 연동 애플리케이션은 입력을 프롬프트라고 하고, 입력 작성 방법을 프롬프트 엔지니어링이라고 한다. * 프롬프트는 컴퓨터 터미널 또는 터미널 에뮬레이터의 CLI의 명령줄 대기모드를 가리킨다.

엔지니어링이란 단어까지 사용한 것보면 현 단계에서는 이게 많이 중요하다는 것이다. ‘llm이 답을 잘 할 수 있도록’ 입력을 작성하라. llm이 잘 하기 위한 것과 사람이 잘 하기 위한 것은 다르기 때문에 깊은 수준에서 다뤄줘야 한다.

랭체인은 지금 단계에서 뭐가 중요한지 잘 아는 것 같다. 컴포넌트에 프롬프트를 포함한거보니.

프롬프트가 사람이 작성하는 거고 잘 작성하는 방법이 있다면, 템플릿을 사용하고 싶을 것이다. 랭체인은 테플릿으로 프롬프트를 만들 수 있도록 하고 있고, 또한 예제 작성이나 출력 구조화와 같은 프롬프트 엔지니어링의 결과를 반영하고 있다.

프롬프트 템플릿을 좀 더 체계적으로 관리하고 만들 수 있는 도구가 필요하다. 템플릿은 공유되면 좋으니 llm 사용 분야별로 분류되어 글로벌하게 공유하고, 이를 쉽게 가져오기 사용할 수 있어야 한다.

프롬프트 엔지니어링에 관심 있으신 분은 https://www.promptingguide.ai/