LLM 노드

LLM 노드

LLM 노드를 사용하면 단일 프롬프트 및 여러 프롬프트를 하나로 엮어 작업을 자동화할 수 있습니다.

단일 프롬프트

• 특정 지시를 통해 LLM에게 해당 액션을 직접 수행하도록 명령하는 방식입니다. 명확하고 구체적인 작업에 효과적이며 활용 사례로는 번역 및 요약 등 단일 작업을 수행하는데 적합합니다.

1. LLM 모델 선택

• 수행하려는 작업에 적합한 LLM 모델을 선택합니다.

• 각 모델의 특성과 성능을 고려하여 선택합니다.

2. 프롬프트 선택

• LLM 모델 실행에 사용할 프롬프트를 선택합니다.

• 프롬프트는 모델에게 수행할 작업이나 생성할 내용을 구체적으로 지시하는 역할을 하며 프롬프트 관리 탭에서 신규 작성할 수 있습니다.

3. 옵션 활성화

3.1 이전 메시지를 맥락으로 활용하기

• 이전 대화에서 이루어진 정보를 LLM 프롬프트에 삽입하여, 연속적인 대화 및 후속 질문에 대한 정확한 답변이 가능합니다.

3.2 생성 결과로 사용자에게 답변

• LLM 실행 결과를 사용자에게 직접 출력하거나, 변수에 저장하여 후속 작업에 활용할 수 있습니다.

• 활성화 방법 :

  • 직접 출력: "생성 결과로 사용자에게 답변" 옵션을 활성화합니다.

  • 변수 저장: 해당 옵션을 비활성화한 후, 결과를 특정 변수에 저장합니다.

3.3 출력 형식을 JSON으로 지정

• LLM의 출력 형식을 JSON 형식으로 지정하여, 데이터 처리 및 시스템 통합에 유용하게 활용할 수 있습니다.

4. 변수에 저장

• LLM 실행 결과를 특정 변수에 저장하여, 이후의 액션에 활용할 수 있습니다. 프로젝트 설정 메뉴에서 변수를 생성하거나, 드롭다운 메뉴에서 바로 변수 선택 및 저장이 가능합니다.

에이전트

• LLM에게 플래닝을 맡겨, 유저의 발화 의도를 판단하고, 다양한 도구를 호출하여 적절한 액션을 수행하도록 구성하는 방식입니다. 복잡한 문제 해결 및 다단 작업에 효과적이며 고객 지원 챗봇, 데이터 분석 및 보고서 작성 등 복잡한 작업을 수행하는데 효과적입니다.

  .

1. 에이전트 선택

• 사용하고자 하는 에이전트를 선택합니다.

• 앱 빌더 내의 에이전트 생성 기능은 현재 별도로 제공되지 않으며, 주기적으로 에이전트 업데이트되어 추가되는 방식으로 제공되고 있습니다. 별도 필요한 에이전트가 있을 경우, 담당 어카운트 매니저에게 문의해 주시기 바랍니다.

2. LLM 모델 선택

• 수행하려는 작업에 적합한 LLM 모델을 선택합니다.

• Agent는 펑션 콜을 지원하는 모델에서만 사용 가능하며, 사용 가능한 모델이 제한적입니다. 선택 가능한 모델에는 "Agent compatible" 라벨이 붙어 있으므로 확인 후 선택하시기 바랍니다.

3. 옵션 활성화

3.1 생성 결과로 사용자에게 답변

• LLM 실행 결과를 사용자에게 직접 출력하거나, 변수에 저장하여 후속 작업에 활용할 수 있습니다.

• 활성화 방법 :

  • 직접 출력: "생성 결과로 사용자에게 답변" 옵션을 활성화합니다.

  • 변수 저장: 해당 옵션을 비활성화한 후, 결과를 특정 변수에 저장합니다.

3.3 출력 형식을 JSON으로 지정

• LLM의 출력 형식을 JSON 형식으로 지정하여, 데이터 처리 및 시스템 통합에 유용하게 활용할 수 있습니다.

4. 변수에 저장

• LLM 실행 결과를 특정 변수에 저장하여, 이후의 액션에 활용할 수 있습니다. 프로젝트 설정 메뉴에서 변수를 생성하거나, 드롭다운 메뉴에서 바로 변수 선택 및 저장이 가능합니다.