LLM 자격 증명

LLM 자격 증명은 애플리케이션에서 사용할 언어 모델의 연결 정보입니다. 운영 > 자격 증명 관리에서 LLM, Embedding, Rerank, VectorDB 연결을 한 목록으로 관리합니다.

화면 예시

LLM 상세 설정 화면

항목	설명
이름	Console에서 식별할 자격 증명 이름입니다.
기본 모델	새 리소스 구성 시 기본 선택값으로 사용할지 정합니다.
공개 범위	전체, 그룹, 비공개 등 접근 범위입니다.
제공업체	사용할 모델 제공업체입니다.
모델	제공업체에서 활성화된 모델을 선택합니다.
모델명 재정의	목록의 시스템 모델명 대신 직접 전달할 모델명을 입력합니다.
엔드포인트	프로토콜, URL, 포트로 구성된 모델 API 주소입니다.
인증	인증 사용 여부와 Token을 설정합니다.
Temperature	응답의 무작위성을 `0`에서 `1` 사이로 설정합니다.

등록 화면에서 이름 중복 여부와 엔드포인트 연결을 확인한 뒤 저장합니다. 사용 가능한 제공업체와 모델은 현재 환경의 활성 모델 설정에 따라 달라집니다.

낮은 값은 답변의 일관성을 높이고, 높은 값은 표현의 다양성을 높입니다. 같은 프롬프트로 품질을 비교할 때는 다른 파이프라인 설정을 고정한 상태에서 값을 조정하세요.