Rerank 설정

Rerank 설정은 검색 후보를 한 번 더 평가해 질문과 더 관련 있는 순서로 재정렬하는 모델 연결 정보입니다. Knowledge Base 검색 테스트, 컬렉션 검색 설정, RAG 파이프라인에서 검색 품질을 보정할 때 사용합니다.

Rerank는 문서를 처음 찾는 검색 단계가 아니라, 이미 검색된 후보의 순서를 다시 매기는 후처리 단계입니다. 따라서 Rerank를 사용하려면 먼저 Dense, Sparse, Hybrid 같은 기본 검색으로 후보를 충분히 가져와야 합니다.

사용하면 좋은 경우

상황	설명
비슷한 문서가 많이 섞이는 경우	키워드나 의미가 비슷한 청크가 많을 때 질문과 직접 관련 있는 청크를 앞으로 올립니다.
상위 K 후보는 맞지만 순서가 아쉬운 경우	검색 후보 안에 정답 문맥이 있지만 상위 결과에 잘 나오지 않을 때 효과를 확인할 수 있습니다.
하이브리드 검색 점수만으로 판단하기 어려운 경우	Dense와 Sparse 점수 스케일이 다를 때 별도 모델이 문맥 관련도를 다시 평가합니다.
최종 응답 품질을 안정화해야 하는 경우	검색 결과 순서가 LLM 응답 컨텍스트에 직접 영향을 줄 때 사용합니다.

등록 흐름

1. Console에서 운영 > 자격 증명 관리로 이동합니다.
2. 자격 증명 추가 화면에서 Rerank 유형을 선택합니다.
3. 제공업체와 모델을 선택합니다. 현재 Console 프리셋은 vLLM, Cohere, Jina 계열 Rerank 모델을 기준으로 구성되어 있습니다.
4. 엔드포인트 URL, 포트, 인증 토큰을 입력합니다.
5. 연결 확인으로 모델 서버 또는 외부 API 연결 상태를 확인합니다.
6. 기본 Rerank 모델로 사용할지, 리소스 공개 범위를 어떻게 둘지 선택한 뒤 저장합니다.

참고

사용 가능한 제공업체와 모델 목록은 운영 환경에 등록된 백엔드 설정에 따라 달라질 수 있습니다. 목록에 필요한 모델이 없다면 조직 관리자에게 모델 등록 상태를 확인하세요.

주요 입력 항목

항목	설명
이름	Console에서 식별할 Rerank 자격 증명 이름입니다.
기본 모델 여부	새 컬렉션이나 검색 설정에서 기본 선택값으로 사용할지 정합니다.
공개 범위	전체 공개 또는 특정 그룹 공개처럼 리소스 접근 범위를 설정합니다.
제공업체	Rerank 모델 제공 방식입니다. 예: vLLM, Cohere, Jina.
모델	실제 재정렬에 사용할 모델입니다.
모델 오버라이드	목록에 표시된 모델명 대신 직접 모델명을 지정해야 할 때 사용합니다.
엔드포인트	모델 서버 또는 외부 API의 접속 주소입니다.
인증	토큰 인증이 필요한 경우 활성화하고 토큰을 입력합니다.

검색 테스트에서 사용하는 방법

Rerank 자격 증명을 저장하면 컬렉션의 검색 테스트 화면에서 Rerank 모델을 선택할 수 있습니다.

설정	확인할 점
Rerank 사용	등록된 Rerank 자격 증명이 없으면 선택할 수 없습니다.
상위 K	Rerank 전에 가져올 후보 수입니다. 너무 작으면 Rerank가 정렬할 후보가 부족합니다.
상위 N	Rerank 후 최종 반환할 결과 수입니다. 상위 K보다 클 수 없습니다.
하이브리드 모드	가중 점수 모드와 Rerank 모드의 결과를 비교해 볼 수 있습니다.

Rerank 결과를 확인할 때는 점수 절대값보다 질문에 필요한 근거 문서가 상위 결과에 올라왔는지 보는 것이 중요합니다. 같은 상위 K라도 Rerank 모델을 바꾸면 최종 순서와 표시 점수가 달라질 수 있습니다.

점수와 성능 해석

Rerank는 기본 검색 결과를 대체하지 않습니다. 먼저 검색 후보를 만들고, 그 후보 안에서 질문과 문서의 관련도를 다시 계산합니다.

1. 후보에 없는 문서는 Rerank가 상위로 올릴 수 없습니다. 정답 문서가 아예 검색되지 않는다면 상위 K, 검색 방식, 점수 임계값, 컬렉션 문서 품질을 먼저 확인하세요.
2. Rerank 점수는 Dense 검색 점수나 Sparse 검색 점수와 직접 비교하지 않는 편이 좋습니다. 모델이 다른 기준으로 관련도를 다시 산정하기 때문입니다.
3. Rerank를 켜면 응답 시간이 늘 수 있습니다. 후보 수인 상위 K가 클수록 재정렬해야 하는 문서가 많아집니다.
4. Rerank 모델이 질문 언어와 문서 언어를 잘 지원하는지 확인하세요. 다국어 문서에서는 모델 선택이 결과 품질에 크게 영향을 줄 수 있습니다.

문제 해결

증상	확인할 항목
검색 테스트에서 Rerank 모델을 선택할 수 없음	Rerank 자격 증명이 등록되어 있는지, 현재 사용자에게 접근 권한이 있는지 확인합니다.
연결 확인 실패	엔드포인트, 포트, 토큰, 방화벽, 모델 서버 상태를 확인합니다.
Rerank 후 결과가 더 나빠짐	상위 K 후보에 정답 문서가 포함되는지 먼저 확인하고, 다른 Rerank 모델 또는 검색 방식을 비교합니다.
응답 시간이 길어짐	상위 K를 줄이거나 Rerank 적용 범위를 꼭 필요한 컬렉션으로 제한합니다.
저장한 모델이 목록에 보이지 않음	공개 범위와 그룹 권한, 자격 증명 삭제 여부를 확인합니다.

관련 문서

• 모델 선택 가이드
• 검색 테스트
• 지식 베이스
• Embedding 자격 증명
• VectorDB 자격 증명
• 애플리케이션 품질