답변 생성 노드를 사용하면 LLM(대규모 언어 모델)을 활용하여 사내 문서, Q&A 및 외부 데이터를 바탕으로 높은 퀄리티의 답변을 생성할 수 있습니다.
답변 생성 노드에는 다양한 필드와 기능들이 있습니다. 한 부분씩 알아보겠습니다.
사용자 입력
- 고객에게 표시할 메시지 혹은 질문을 입력할 수 있습니다.
- 노드를 사용할 때마다 입력된 메시지 혹은 질문을 반복해서 표시할 수 있도록 하는 옵션입니다.
- 답변 생성에 사용할 LLM 모델을 선택할 수 있습니다.
Alli GPT에서는 GPT-3.5-Turbo, Text-Davinci-003, GPT-4 세개 모델을 지원합니다. 각각의 모델 특징에 대해서는 하기에서 확인하실 수 있습니다. - 답변 생성에 사용할 프롬프트를 선택할 수 있습니다. 자세한 내용은 프롬프트 관리 유저 가이드를 참조해 주세요.
- 답변을 어디에서 검색할지 선택할 수 있습니다. 프로젝트에 업로드 되어 있는 Q&A 및 문서 또는 웹사이트(외부) 검색을 통해 답변을 검색할 수 있는 옵션입니다.
- Q&A를 검색 소스로 설정한 경우, 특정 해시태그를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다.
전체 Q&A 목록을 검색하고 싶을 경우 공백으로 둡니다. - 문서를 검색 소스로 설정한 경우, 특정 해시태그를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다.
전체 문서를 검색하고 싶을 경우 공백으로 둡니다. - 답변을 지정된 변수에 저장할 수 있습니다.
변수는 프로젝트 설정 메뉴에서 생성하거나 드랍다운 메뉴에서 바로 생성할 수 있습니다. - 답변 생성 후, 현재 노드를 반복할지 다음 노드로 넘어갈지를 선택할 수 있습니다.
1. 사용할 변수를 선택하실 수 있습니다.
2. 답변 생성에 사용할 LLM 모델을 선택할 수 있습니다.
Alli GPT에서는 GPT-3.5-Turbo, Text-Davinci-003, GPT-4 세개 모델을 지원합니다. 각각의 모델 특징에 대해서는 하기에서 확인하실 수 있습니다.
3. 답변 생성에 사용할 프롬프트를 선택할 수 있습니다. 자세한 내용은 프롬프트 관리 유저 가이드를 참조해 주세요.
4. 답변을 검색할 소스를 선택할 수 있습니다.
프로젝트에 업로드 되어 있는 Q&A 및 문서 또는 웹사이트(외부) 검색을 통해 답변을 검색할 수 있습니다.
6. Q&A를 검색 소스로 설정한 경우, 특정 해시태그를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다.
전체 Q&A 목록을 검색하고 싶을 경우 공백으로 둡니다.
7. 문서를 검색 소스로 설정한 경우, 특정 해시태그를 검색 대상으로 삼을지 제외 시킬지 선택할 수 있습니다.
전체 문서를 검색하고 싶을 경우 공백으로 둡니다.
8. 답변을 지정된 변수에 저장할 수 있습니다.
변수는 프로젝트 설정 메뉴에서 생성하거나 드랍다운 메뉴에서 바로 생성할 수 있습니다.
9. 답변 생성 후, 현재 노드를 반복할지 다음 노드로 넘어갈지를 선택할 수 있습니다.
모델 특징
GPT-3.5-Turbo : 빠른 응답과 성능 최적화라는 특징을 갖고 있습니다. 높은 정확도로 고품질의 답변 생성이 가능하며 다음과 같은 시나리오에 적합합니다.
– 실시간 상호 작용(대화)이 필요한 경우
– 보다 효율적인 리소스 사용을 원하는 경우
Text-Davinci-003 : 다양한 분야와 대화 주제에 중점을 둔 모델입니다. 광범위한 지식과 유창한 언어 지식을 보유하고 있으며 다음과 같은 시나리오에 적합합니다.
– 자세한 정보 또는 전문 지식이 필요한 내용에 대한 답변이 필요한 경우
– 정보를 탐색하거나 문서 생성이 필요한 경우
GPT-4 : 방대한 지식과 지도 학습 훈련으로 최적화된 모델입니다. 더욱 커진 모델 크기는 물론 향상된 응답성을 갖고 있으며 다음과 같은 시나리오에 적합합니다.
– 복잡한 텍스트 생성 또는 복잡한 의미 및 내용에 대한 이해가 필요한 경우
– 최신 자연어 처리 기능을 활용하는 경우
