LLM 호출 상세

LLM 호출 정보는 독립 목록 메뉴가 아닙니다. 애플리케이션 > 이력 관리 > 대화 이력에서 하나의 대화를 열고, 상단 노드 선택기에서 LLM 호출 노드를 고르면 확인할 수 있습니다.

화면 예시

확인할 수 있는 정보

항목	설명
Application Key	요청이 실행된 애플리케이션 키
모델명	선택한 노드가 호출한 LLM
전체 소요 시간	노드 호출이 완료되기까지 걸린 시간
요청/응답 토큰	해당 호출에서 소비한 토큰 수
상태 코드	LLM 호출 결과의 HTTP 상태 코드
요청 시간	호출이 시작된 시각
프롬프트와 응답	모델에 전달된 프롬프트와 노드의 응답

질문 선택기로 같은 세션의 다른 질문을 고르고, 노드 선택기로 어느 단계에서 오류나 지연이 발생했는지 비교하세요.

오류 확인

1. 상태 코드가 정상 범위인지 확인합니다.
2. 프롬프트 변수가 빈 값이거나 예상과 다르지 않은지 확인합니다.
3. 응답 시간과 토큰 소비가 특정 노드에서만 급증하는지 비교합니다.
4. 반복되는 문제는 파이프라인의 모델과 프롬프트 설정을 점검합니다.

관련 문서

• 대화 이력
• 파이프라인 노드별 프롬프트
• 사용량