문서 업로드 및 문서에서 답변 생성 노드 사용하기
답변 생성 노드를 사용하면 LLM(대규모 언어 모델)을 활용하여 사내 문서, Q&A 및 외부 데이터를 바탕으로 높은 퀄리티의 답변을 생성할 수 있습니다. 문서에서 답변 생성 노드를 사용하려면 우선 지식 베이스 메뉴의 문서 탭에 문서가 업로드되어 있어야 합니다.
문서를 업로드 하는 방법은 간단합니다. 문서 탭에서 ‘문서 업로드’ 버튼을 클릭합니다. 다량의 문서 업로드 시에는 ‘새 폴더 추가하기’ 버튼을 통해 문서를 타입별/권한별로 묶어서 정리할 수 있습니다.
폴더 작성 시에는 액세스 목록 설정을 통해 편집 및 열람 권한을 부여할 수 있습니다.
업로드된 문서는 프리뷰 화면을 통해 확인할 수 있습니다.
이제 실제 업로드한 문서를 바탕으로 대화형 앱을 만드는 방법에 대해서 알아보도록 하겠습니다.
대시보드 메뉴의 ‘앱 관리’ 탭으로 이동하여 우측 상단의 +새로운 앱 생성 > 대화형 앱 만들기 버튼을 클릭합니다.
Start 버튼을 클릭하여 노드 목록에서 ‘답변 생성’ 버튼을 선택합니다.
답변 생성 노드에는 다양한 필드와 기능들이 있습니다. 하나씩 알아보겠습니다.
답변 생성 노드에는 '에이전트'와 '그룹 프롬프트'라는 두가지 타입이 존재합니다.
에이전트랑 유저와의 상호작용을 통해 필요한 정보를 모델이 질문하고 최적의 답변을 도출하고 싶은 경우 사용할 수 있습니다. 그룹 프롬프트란 지정된 프롬프트를(사내 룰에 맞게 여러 제약을 지정할 수 있습니다) 바탕으로 업로드한 문서 내에서 1회성 답변을 도출하고 싶은 경우 사용할 수 있습니다. [에이전트 선택 시]
질문 입력 방식 : 대화 내에서 사용자가 질문을 입력할 수 있게할지, 변수를 통해 자동 입력하게할지 선택할 수 있는 옵션입니다.
질문 입력 : 고객에게 표시할 메시지를 입력할 수 있습니다. 예를들면 이런 문구를 작성할 수 있습니다. ‘안녕하세요. 사내 챗봇 AI 입니다. 질문을 입력해 주세요’
+ 노드 진입 시 항상 메시지 출력 : 노드를 사용할 때마다 입력된 메시지 혹은 질문을 반복해서 표시할 수 있도록 하는 옵션입니다.
기본 모델 : 에이전트가 동작하는데 사용할 LLM 모델을 선택할 수 있습니다. 에이전트는 싱글턴이 아닌 멀티턴 동작으로 이루어져있기 때문에 펑션콜이 가능한 모델만 사용 가능합니다. 펑션콜이 사용가능한 모델에는 *Agent Compatible 라벨이 붙어있으므로 해당 모델을 선택해 주세요.
에이전트 : 현재는 Alli Works Agent만 제공됩니다. 해당 에이전트를 이용하면 유저에게 모델이 필요한 정보를 되묻거나 후속질문을 진행하는 등 멀티턴 기능을 사용할 수 있습니다. 또한 답변의 중간과정(Agent가 어떤 판단으로 이 답변을 도출했는지)를 대화 내에서 확인할 수도 있습니다.
검색 소스 : 계정에 업로드 되어 있는 Q&A 및 문서 또는 웹사이트(외부) 검색을 통해 답변을 검색할 수 있는 옵션으로 답변을 어디에서 검색하여 생성할 것인지 범위를 지정할 수 있습니다.
Q&A : Q&A를 검색 소스로 설정한 경우, 특정 해시태그 및 변수(변수값이 해시태그와 동일하면 동작)를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다. 전체 Q&A 목록을 검색하고 싶을 경우 공백으로 둡니다.
문서 : 문서를 검색 소스로 설정한 경우, 구성된 폴더 및 특정 해시태그 및 변수(변수값이 해시태그와 동일하면 동작)를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다. 전체 문서를 검색하고 싶을 경우 공백으로 둡니다.
인터넷 : 웹 검색을 검색 소스 및 대상으로 삼을지 제외시킬지 선택할 수 있는 옵션입니다. 특정 웹페이지 지정 및 특정 웹페이지 제거 등 상세 기능은 추후 반영될 예정입니다.
답변을 아래 변수로 저장 : 답변을 지정된 변수에 저장할 수 있습니다.변수는 프로젝트 설정 메뉴에서 생성하거나 드롭다운 메뉴를 통해 직접 생성할 수 있습니다.
답변 생성 후 : 현재 노드를 반복할지 다음 노드로 넘어갈지를 선택할 수 있습니다.
[그룹 프롬프트 선택 시]
질문 입력 방식 : 대화 내에서 사용자가 질문을 입력할 수 있게할지, 변수를 통해 자동 입력하게할지 선택할 수 있는 옵션입니다.
질문 입력 : 고객에게 표시할 메시지를 입력할 수 있습니다. 예를들면 이런 문구를 작성할 수 있습니다. ‘안녕하세요. 사내 챗봇 AI 입니다. 질문을 입력해 주세요’
+ 노드 진입 시 항상 메시지 출력 : 노드를 사용할 때마다 입력된 메시지 혹은 질문을 반복해서 표시할 수 있도록 하는 옵션입니다.
기본 모델 : 답변 생성에 사용할 LLM 모델을 선택할 수 있습니다
그룹 프롬프트 : 답변 생성에 사용할 프롬프트를 선택할 수 있습니다. 가장 기본값은 '답변 생성' 프롬프트입니다. 해당 프롬프트를 수정하여 커스터마이징하는 것도 가능합니다.
검색 소스 : 계정에 업로드 되어 있는 Q&A 및 문서 또는 웹사이트(외부) 검색을 통해 답변을 검색할 수 있는 옵션으로 답변을 어디에서 검색하여 생성할 것인지 범위를 지정할 수 있습니다.
Q&A : Q&A를 검색 소스로 설정한 경우, 특정 해시태그 및 변수(변수값이 해시태그와 동일하면 동작)를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다. 전체 Q&A 목록을 검색하고 싶을 경우 공백으로 둡니다.
문서 : 문서를 검색 소스로 설정한 경우, 구성된 폴더 및 특정 해시태그 및 변수(변수값이 해시태그와 동일하면 동작)를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다. 전체 문서를 검색하고 싶을 경우 공백으로 둡니다.
인터넷 : 웹 검색을 검색 소스 및 대상으로 삼을지 제외시킬지 선택할 수 있는 옵션입니다. 특정 웹페이지 지정 및 특정 웹페이지 제거 등 상세 기능은 추후 반영될 예정입니다.
답변을 아래 변수로 저장 : 답변을 지정된 변수에 저장할 수 있습니다.변수는 프로젝트 설정 메뉴에서 생성하거나 드롭다운 메뉴를 통해 직접 생성할 수 있습니다.
답변 생성 후 : 현재 노드를 반복할지 다음 노드로 넘어갈지를 선택할 수 있습니다.
정답을 찾지 못한 경우 분기 옵션 추가 : ‘답변을 찾을 수 없습니다’ 라는 답변이 생성되었을 때 별도의 노드 분기를 둘 수 있는 옵션입니다. 해당 옵션을 ON으로 설정하면 LLM 모델이 정답을 찾지 못했을 때의 액션을 지정할 수 있습니다.
Last updated