LLM 인풋 노드

LLM 인풋 노드는 문서, 스니펫, 업로드된 데이터를 LLM 플로우 내 다른 노드로 전달하기 위한 기능을 수행합니다. 이 노드를 통해 입력된 정보가 변수에 저장되고, 이후 노드에서 지정된 액션에 따라 스킬이 실행됩니다.

지원 타입

LLM 인풋 노드는 다음 세 가지 입력 타입을 지원합니다:

문서(Document)
- 사전에 등록된 문서 리스트를 불러와 입력 값으로 사용할 수 있습니다.
- 선택된 문서는 변수에 저장되어 후속 노드에서 활용됩니다.
스니펫(Snippet)
- 특정 텍스트 블록이나 정형 데이터의 일부를 입력할 수 있습니다.
- 예: 고객 리뷰, 대화 이력 등
업로드(Upload)
- 사용자가 직접 파일을 업로드하여 입력 소스로 활용할 수 있습니다.
- 지원되는 파일 형식 및 용량 제한은 시스템 정책을 따릅니다.

1. 문서 인풋

지식베이스에 업로드된 문서를 선택하여 검색 범위를 지정할 수 있습니다. 별도의 문서를 선택하지 않을 경우, 업로드된 모든 문서가 검색 대상에 포함됩니다.

문서 범위 지정: 특정 문서를 선택하여 검색 범위를 제한할 수 있습니다.
해시태그로 검색 범위 지정: 해시태그 및 특정 변수를 설정하여 검색 범위를 한정할 수 있으며, 설정하지 않을 경우 모든 문서를 대상으로 검색합니다.
사용자 검색 허용 ON/OFF:
- ON: 사용자가 직접 문서를 검색할 수 있으며, 질문 요청 시 표시할 메시지를 입력할 수 있습니다.
- OFF: 사용자가 검색할 수 없으며, 시스템이 자동으로 지정한 문서를 검색합니다.
문서 검색 방식 선택:
- 문서 내용(콘텐츠) 검색
- 문서 제목 검색
- 두 가지 방식 동시 선택 가능
변수 저장: 선택한 문서 목록을 특정 변수에 저장할 수 있습니다. 변수는 프로젝트 설정 메뉴에서 생성하거나 드롭다운 메뉴에서 선택할 수 있습니다.

2. 스니펫 인풋

스니펫은 메신저, 메일, 캘린더 등 서드파티 서비스에서 가져온 단문 데이터입니다. 예를 들어, Google Calendar와 연동하여 일정 정보를 검색하고 활용할 수 있습니다.

사용자 질문 요청: 유저에게 검색할 내용을 입력하도록 유도하는 메시지를 설정할 수 있습니다.
검색 소스 지정:
- Google Calendar, Slack, Gmail 등 다양한 서드파티 서비스에서 데이터를 검색할 수 있습니다.
- 서비스에 따라 데이터 크기 및 페이지 제한이 있을 수 있습니다.
변수 저장: 검색된 스니펫 데이터를 특정 변수에 저장하여 활용할 수 있습니다.
- 예: Google Calendar에서 검색한 일정을 SNI 변수에 저장한 후 LLM 실행 노드로 모델에게 특정 액션을 지정

마지막으로 업로드 인풋 타입을 살펴보겠습니다.

3. 업로드 인풋

사용자가 직접 문서를 업로드하여 활용할 수 있습니다. 업로드가 선택된 경우, 유저 입력창이 비활성화되며 파일 업로드만 가능하도록 설정됩니다.

파일 업로드 요청: 유저에게 파일 업로드를 요청하는 메시지를 입력할 수 있습니다.
지원 파일 유형 및 크기:
- 최대 100MB
- 지원 파일 형식: txt, .docx, .csv, .xls, .xlsx, .xlsm, .jpg, .jpeg, .png, .hwp, .hwpx, .pdf, .ppt, .pptx, .doc
파일 업로드 처리:
- 지원되지 않는 파일 형식이나 크기 초과 시 오류 메시지가 표시됩니다.
- 파일 업로드가 정상적으로 완료되면 채팅 창에 "문서가 업로드되었습니다"라는 메시지가 출력됩니다.
변수 저장: 업로드된 파일을 변수로 지정하여 LLM 프롬프트에서 동적으로 활용할 수 있습니다.

LLM 인풋 노드는 플로우 내에서 필요한 데이터를 손쉽게 구성하고 연결할 수 있도록 도와주는 시작점입니다.

데이터 구조화 및 활용 다양한 형태의 입력 데이터를 구조화하여, 유연한 LLM 플로우 작성이 가능합니다.

정밀한 액션 지원 입력된 데이터를 기반으로 정확한 액션 수행이 가능합니다.

LLM 인풋 노드는 전체 플로우의 성능과 응답 품질을 결정짓는 핵심 요소입니다. 데이터를 정확하게 입력하고 설정함으로써, LLM의 효율성과 액션 활용도를 극대화할 수 있습니다.

Last updated 6 months ago