回答生成ノード

回答生成ノード

回答生成ノードは、GPTまたはLLM対プロジェクトのユーザーが内部ドキュメント、Q&A、または外部のリソースデータから回答を生成することができる機能です。回答生成ノードを使用することで、会話形式で迅速かつ正確に質問に答えることが可能です。

■回答生成ノードとは?

回答生成ノードは、Alliへアップロードしたドキュメント・Q&A・外部のWebサイトデータなどを活用し、LLMによって回答を自動生成するノードです。 チャットフローに組み込むことで、ユーザーの質問に対し適切な情報を提供できます。

■回答生成時の2種類の実行タイプ

回答生成ノードには「エージェント」「グループプロンプト」の2種類の実行タイプ(回答生成方法)があります。

  • エージェント:ユーザーの質問に対して、LLMが対話形式で必要な情報を追加質問しながら、最適な回答を生成する形式。

  • グループプロンプト:ユーザーの質問に対して、指定したプロンプトをもとに、単発の回答を生成する形式。(プロンプトには、独自の指示を組み込むことも可能です)

■設定項目の詳細

  1. 質問の入力方式: ユーザーがチャット上で直接質問を入力する[ユーザー入力]か、 変数を使って自動で入力する[変数]を選べます。 ・[ユーザー入力]を選択した場合:  質問欄よりユーザーに表示する初期メッセージを設定できます。  (例:こんにちは、社内チャットボットAIです。質問を入力してください。) ・[変数]を選択した場合:  質問文として用いる、ユーザーの入力内容を保存した変数をプルダウンで選択します。

  2. ノードに入るたびにメッセージを出力: 質問の入力方式が[ユーザー入力]の場合に、 ノードが起動するたびに質問欄で設定したメッセージを繰り返し表示することができます。

  3. 実行タイプの選択: 回答生成の実行タイプを[エージェント]または[グループプロンプト]から選択できます。

  4. ベースモデルの選択: 回答生成に使用するLLMモデルを選択します。 ※エージェントタイプはマルチターン対話を行うため、機能に対応したモデルの選択が必要です。  エージェントに対応したモデルには、モデル名の下に「*Agent Compatible」と記載があります。

  5. エージェントの選択: 現在選択できるのは「Rag Agent」のみです。 「Rag Agent」では、追加質問を自動で行ったり、回答生成までの中間プロセスを確認することができます。

  6. 検索ソース: 回答生成時に参照する情報源を[Q&A][ドキュメント][ウェブ]の3種類から選択可能です。 ※複数の検索ソースを設定することも可能です。

  7. Q&A: プロジェクト内にアップロードされたQ&Aを使用します。 Q&Aに付与されたハッシュタグによる検索対象の指定や除外が可能です。すべてのQ&Aを検索対象にしたい場合は、空白のままにしてください。

  8. ドキュメント: プロジェクト内にアップロードされたドキュメントを使用します。 フォルダ単位での検索対象の範囲指定や、ドキュメントに付与されたハッシュタグによる検索対象の指定/除外が可能です。すべてのドキュメントを検索対象にしたい場合は、空白のままにしてください。 検索範囲として、フォルダとハッシュタグを同時に指定した場合の演算子は"AND"になります。

  9. ウェブ: 外部のWebサイトを検索し、回答ソースに使用します。 「ウェブサイトを追加」から、特定のウェブサイトをドメイン指定することが可能です。 ドメインは複数設定することも可能です。

    「+ウェブサイトを追加」をクリックします
    ドメインは複数指定も可能
  10. 応答内容を以下の変数に保存する: 生成された回答を指定の変数に保存できます。 既存の変数を用いる場合はドロップダウンで選択します。 新しく変数を作成する場合は、ドロップダウンメニューから直接作成するか、プロジェクト設定メニューから作成できます

  11. 回答生成後: 回答が生成された後、フローを次のノードに進めるか、ユーザーが再度質問を行うか、回答生成後の動作を選択できます

  12. メモ: 内部用のメモとしてご利用いただけます。

<グループプロンプトを選択した場合>※エージェントとの相違点のみ抜粋

  1. グループプロンプトの選択: 回答生成時に使用するプロンプトを選択します。 デフォルトで「回答生成」のプロンプトが用意されています。 (独自に編集したプロンプトを追加作成し、設定することも可能です。) ※プロンプトの管理方法についてこちらをご確認ください。

  2. 回答が見つからなかった場合のアクションを指定: LLMで回答生成自体には成功したものの、対象となる検索ソースから的確な回答が見つからず、 「回答が見つかりませんでした」などのメッセージを表示した場合に、別途のアクションを指定できるオプション機能です。 ※本機能を有効にする場合は、別途弊社での環境設定が必要です

ユーザー画面での利用時のソース設定について

回答生成ノードを活用したアプリの場合、ユーザー側での利用時に、さらにユーザー側で検索範囲の絞り込みを行うことが可能です。

アプリ画面での例

入力欄内の紫色で表示されたアイコンをクリックすると、シェアドキュメントとパーソナルドキュメント内で、参照したいを文書を自由に選択できます。前提として、回答生成ノードでドキュメントの検索対象をフォルダ単位等で絞り込んでいる場合は、設定したフォルダのみ、かつユーザーが閲覧権限を保持しているドキュメントのみが表示されます。※シェアドキュメントをOFFにしている場合はユーザーからドキュメントの範囲指定を利用することはできません

参照先に選択した文書は検索ボックスの下に表示されます。 また、フォルダ全体を選択して、フォルダ内すべてを一度に選択することも可能です。

「ドキュメントをアップロード」をクリックすると、その場でパーソナルドキュメントにドキュメントをアップロードし、検索対象に含めることも可能です。※パーソナルドキュメントをOFFにしている場合はユーザーからドキュメントアップロードは利用できません。

ウェブから検索が許可されている場合、アプリのユーザーが検索対象のドメインを指定することも可能です。

「+追加」からドメインを追加し、検索対象ドメインを指定・複数選択も可能。

※なお、回答生成ノードを活用したアプリの設計が、先頭から回答生成ノードに直接つながっているアプリ設計の場合はソース設定を行うためのボタンが最初から表示されますが、以下の画像例のように、ユーザーの質問文を「会話応答ノード」上などで入力した内容を、後続の「回答生成ノード」で変数から回答する設計をされたアプリの場合は、1回目の質問入力時に、ソース設定をするボタンが表示されません。機能仕様上、回答生成ノードが作動しているタイミングでソース設定のボタンがユーザーへ表示されます。

最終更新