다크 모드
LLM 노드
LLM은 선택한 AI 모델에 메시지를 보내 텍스트 또는 정의된 스키마의 객체를 생성하는 노드입니다. 메시지에서 이전 노드의 출력을 참조해 검색 결과 요약, 분류, 추출, 초안 작성 같은 작업을 수행할 수 있습니다.
언제 사용하나요?
- 문서나 대화를 요약하고 핵심 정보를 추출할 때
- 입력을 분류하거나 조건 분기에 사용할 값을 만들 때
- 검색 결과를 근거로 자연어 답변을 생성할 때
- 다음 노드가 안정적으로 사용할 구조화된 객체가 필요할 때
입력
LLM은 Messages에 작성한 텍스트를 입력으로 사용합니다. 메시지 입력란에서 /를 입력하면 현재 노드보다 앞선 실행 경로에서 접근할 수 있는 출력 필드를 삽입할 수 있습니다.
메시지 역할은 다음 세 가지입니다.
| 역할 | 용도 |
|---|---|
| SYSTEM | 모델의 역할, 원칙, 출력 규칙처럼 전체 요청에 적용할 지침을 작성합니다. |
| USER | 처리할 요청과 실제 입력 데이터를 전달합니다. |
| ASSISTANT | 앞선 응답의 맥락이나 예시 응답을 대화에 포함할 때 사용합니다. |
메시지는 위에서 아래 순서로 모델에 전달되며 하나 이상 필요합니다.
주요 설정
| 설정 | 설명 |
|---|---|
| 이름 | 캔버스, 변수 선택 목록, 실행 이력에 표시할 고유한 이름입니다. |
| 설명 | 이 노드가 모델에 맡기는 작업을 설명합니다. |
| Model | 사용할 제공자와 모델을 선택합니다. 지원하는 모델은 추론 강도도 선택할 수 있습니다. |
| 구조화된 출력 | 끄면 answer가 문자열이고, 켜면 answer를 JSON 객체 스키마로 정의할 수 있습니다. |
| 출력 스키마 편집기 | Simple 모드에서 필드를 추가하거나 JSON Schema 모드에서 Draft 7 스키마를 직접 작성합니다. 구조화된 출력의 루트 타입은 Object여야 합니다. |
| Messages | USER, ASSISTANT, SYSTEM 역할과 내용을 순서대로 구성합니다. 각 메시지에는 역할과 내용이 필요합니다. |
구조화된 출력에서는 필드 이름, 타입, 설명, 필수 여부를 구체적으로 정의할수록 다음 노드가 결과를 안정적으로 참조할 수 있습니다.
출력
기본 출력은 다음 두 필드입니다.
| 필드 | 타입 | 설명 |
|---|---|---|
answer | String 또는 Object | 모델이 생성한 답변입니다. 구조화된 출력을 켜면 설정한 객체가 됩니다. |
totalTokens | Number | 해당 모델 호출에서 사용한 총 토큰 수입니다. |
구조화된 출력으로 summary와 category를 정의했다면 다음 노드에서는 LLM.answer.summary, LLM.answer.category처럼 선택할 수 있습니다.
연결과 배치 제약
- 모델이 선택되어 있어야 하고 메시지가 하나 이상 있어야 합니다.
- 모든 메시지에는 USER, ASSISTANT, SYSTEM 중 하나의 역할과 내용이 필요합니다.
/목록에는 같은 실행 범위에서 현재 노드에 도달할 수 있는 이전 노드의 출력만 표시됩니다.- LLM은 루트 워크플로우뿐 아니라 Loop와 Iteration 내부에도 배치할 수 있습니다.
- 컨테이너 안의 LLM은 컨테이너 경계를 가로지르는 연결선을 만들 수 없습니다. 컨테이너가 제공하는 값과 내부의 이전 노드 출력만 참조하세요.
- 워크플로우 연결은 순환할 수 없습니다. 반복이 필요하면 Iteration이나 Loop을 사용하세요.
예시
문서에서 요약과 작업 항목을 추출하는 구조화된 LLM을 만들 수 있습니다.
- Input에 String 필드
document를 추가합니다. - LLM의 SYSTEM 메시지에 “입력에 명시된 정보만 사용하고 누락된 내용을 만들지 마세요.”라고 작성합니다.
- USER 메시지에 “다음 문서를 요약하세요:”를 쓰고
/로INPUT.document를 삽입합니다. - 구조화된 출력을 켜고
answer.summary를 String,answer.actionItems를 Array로 정의합니다. - Output에서
LLM.answer.summary와LLM.answer.actionItems를 선택합니다.
주의사항
- 프롬프트에 요청한 형식과 출력 스키마가 서로 다르면 실행이 실패하거나 기대하지 않은 결과가 나올 수 있습니다.
- 구조화된 출력을 끄면
answer가 다시 문자열이 됩니다. 기존에answer아래 필드를 참조하던 노드도 함께 수정하세요. - 긴 문서와 많은 검색 결과를 한 번에 전달하면 모델의 컨텍스트 한도와 비용에 영향을 줍니다. 필요한 내용만 선별하거나 먼저 분할·요약하세요.
- 모델마다 구조화 출력과 추론 강도 지원 여부가 다를 수 있습니다. 게시 전에 실제로 사용할 모델로 테스트하세요.
- 개인정보나 비밀 값을 메시지에 포함하기 전에 선택한 모델과 데이터 처리 정책을 확인하세요.