LLM 인풋 노드

LLM 인풋 노드를 사용하면 LLM 실행 노드에서 사용할 인풋을 사전에 정의해서 입력해줄 수 있으며 자동화 플로우를 구축할 수 있습니다. 단 LLM 인풋 노드는 LLM 실행 노드 앞에만 배치될 수 있으며 하나의 LLM 실행 노드에는 하나의 LLM 인풋 노드만 사용될 수 있습니다.

LLM 인풋 노드 아이콘은 여기에 위치하고 있습니다. 클릭하여 LLM 인풋 노드를 생성합니다.

LLM 인풋 노드에는 문서와 스니펫, 업로드 총 3가지 타입이 있습니다.

우선 문서부터 살펴보도록 하겠습니다.

문서로 범위 지정
지식베이스에 업로드한 문서 내에서 특정 문서들을 선택하여 검색 범위를 지정할 수 있습니다. 즉, 문서 범위 지정 후 검색(optional)을 통해, 인풋으로 사용할 문서를 지정하는 방식입니다. 별도의 문서를 선택하지 않을 경우에는 업로드 되어 있는 전체 문서가 대상으로 포함되며 지식베이스 > 문서 탭에서 문서 상태가 OFF로 설정되어 있는 문서는 노드 내에서 선택이 되었다고 하더라도 대상에 포함되지 않습니다.

해시태그로 범위 지정
해시태그를 통해 문서의 검색 범위를 지정하여 원하는 범위 내에서만 검색을 실시할 수 있도록 설정할 수 있습니다. 해시태그를 설정하지 않을 경우에는 별도의 제한 없이 검색됩니다.

사용자의 검색 허용 ON / OFF
사용자에게 질문 요청하기
사용자의 검색 허용을 ON으로 설정하면 유저에게 질문 요청 시 표시할 메시지를 입력할 수 있습니다.
문서 검색 방식
사용자의 검색 허용을 ON으로 설정하면 문서 검색 방식을 선택하실 수 있습니다.
문서 내에서 ①문서 내용(콘텐츠)을 대상으로 검색을 실시할지 ②제목을 대상으로 검색을 실시할지 선택할 수 있으며 복수 선택도 가능합니다.
아래 변수로 저장
특정 문서에서 받아온 문서 목록이 지정된 변수에 저장됩니다. 변수는 프로젝트 설정 메뉴에서 생성하거나 드랍다운 메뉴에서 바로 생성할 수 있습니다.

다음으로 스니펫 부분을 살펴보도록 하겠습니다. 스니펫은 메신저, 메일, 캘린더 서비스 등 여러 서드파티 서비스에서 가져온, 단문 형태의 데이터입니다. 실제로 구글 캘린더와 연동하여 어떻게 LLM 실행 노드와 연결되는지 예시와 함께 설명하겠습니다.

사용자에게 질문 요청하기
유저에게 표시하는 질문 메시지를 입력할 수 있습니다.
* 여기서는 Google Calender 내에서 검색하고자 하는 일정을 유저가 입력할 수 있도록 유도하는 메시지를 작성했습니다.
검색할 소스
Google Calender, Slack, Gmail 등 타사 서비스에서 가져온 단문 소스에 대한 검색을 실시할 수 있도록 지정할 수 있습니다. (단 가져오는 데이터 사이즈, 페이지에 제한이 있을 수 있습니다.)
* 일정 검색이기 때문에 Google Calender를 검색 소스로 설정했습니다.
아래 변수로 저장
특정 스니펫에서 받아온 결과를 반환하여 지정된 변수에 저장합니다. 변수는 프로젝트 설정 메뉴에서 생성하거나 드랍다운 메뉴에서 바로 생성할 수 있습니다.
*Google Calender에서 찾은 인풋을 SNI라는 변수에 저장합니다.

LLM 실행 노드와 연결합니다.

프롬프트 관리 페이지에서 다이나믹 인풋으로 추가한 변수들은 노드 내 프롬프트 편집 시 chip 형태로 제안됩니다.
*여기서는 SNI이라는 변수가 동적 인풋으로 추가되었습니다.

실제 스킬 실행 화면

마지막으로 업로드 인풋 타입을 살펴보겠습니다.

대화 내에서 유저가 업로드하는 문서를 활용할 수 있습니다.

사용자에게 파일 업로드 요청하기
유저에게 파일 업로드를 요청하는 메시지를 입력할 수 있습니다.
– 파일 사이즈 제한은 50MB까지이며
– 파일 타입은 txt, .docx, .csv, .xls, .xlsx, .xlsm, .jpg, .jpeg, .png, .hwp, .hwpx, .pdf, .ppt, .pptx, .doc를 지원합니다.
– 지원하는 사이즈, 타입과 다른 파일이 업로드 될 경우에는 배너를 통해 에러 메시지가 표시됩니다.
아래 변수로 저장
업로드된 파일을 변수로 지정하여 프롬프트를 통해 동적 변수로 사용할 수 있습니다.