용어 사전

AI Forge Console에서 사용하는 주요 용어입니다.

애플리케이션

LLM, 지식 베이스, 외부 도구와 파이프라인을 조합한 AI 서비스 단위입니다. 설정, 파이프라인, 품질, 이력 관리 탭으로 구성됩니다.

API 도구

외부 REST API를 애플리케이션에서 호출할 수 있도록 등록한 도구입니다. 같은 Base URL과 인증 정보를 사용하는 엔드포인트를 그룹으로 관리합니다.

청크(Chunk)

Document 컬렉션의 문서를 검색 가능한 크기로 나눈 텍스트 단위입니다. 청킹 방식, 크기와 오버랩이 검색 결과에 영향을 줍니다.

Console

AI Forge의 운영 웹 인터페이스입니다. 애플리케이션, 지식 베이스, 데이터소스, 서비스 연동, 자격 증명과 사용자 권한을 관리합니다.

데이터소스

FTP, S3, 수동 파일 또는 Web 콘텐츠를 수집하는 리소스입니다. 지식 베이스 컬렉션에 연결한 뒤 데이터를 적재합니다.

Dense Search(벡터 검색)

질문과 청크의 Embedding 벡터 유사도를 기준으로 관련 내용을 찾는 방식입니다.

Embedding

텍스트를 벡터로 변환하는 과정 또는 그 모델입니다. 지식 베이스 생성 시 사용할 Embedding 자격 증명을 선택합니다.

평가(Evaluation)

애플리케이션 응답을 Golden Set과 평가 프로필로 측정하는 작업입니다. 실행 결과와 노드 분석을 통해 변경 전후 품질을 비교합니다.

Golden Set

품질 평가에 사용하는 기준 질문 세트입니다. 질문, Ground Truth, 근거 문서, 난이도와 태그 등을 포함할 수 있습니다.

Ground Truth

평가 질문에 대해 기대하는 기준 답변입니다.

Hybrid Search(하이브리드 검색)

벡터 검색과 전체 텍스트 검색을 함께 사용하는 방식입니다. 가중 점수나 Rerank로 최종 순서를 정할 수 있습니다.

지식 베이스

공통 VectorDB와 Embedding 연결 아래 여러 컬렉션을 관리하는 RAG 리소스입니다.

LLM(Large Language Model)

사용자 질문과 파이프라인의 프롬프트를 받아 답변을 생성하는 언어 모델입니다.

MCP 서버

Model Context Protocol을 통해 외부 도구와 입력 스키마를 제공하는 서버입니다. 애플리케이션 설정에서 등록된 서버를 연결합니다.

사용량

요청, 세션과 비용 추이를 집계해 보여주는 운영 화면입니다.

프롬프트

모델에 전달하는 지시문입니다. 애플리케이션 파이프라인에서 프롬프트를 사용하는 노드를 선택해 시스템·사용자·응답 프롬프트를 설정합니다.

정책

현재 Console에서 애플리케이션별 사용량 제한을 다루는 관리 영역입니다. 금칙어는 각 애플리케이션의 파이프라인에서 관리합니다.

RAG(Retrieval-Augmented Generation)

질문과 관련된 외부 문서를 검색해 모델의 답변 생성에 함께 사용하는 방식입니다.

Rerank

검색된 후보를 질문과의 관련도 기준으로 다시 정렬하는 후처리 단계입니다.

검색 테스트

컬렉션에 질문을 입력해 반환되는 청크와 점수를 확인하는 화면입니다. 검색 방법, 상위 K·N, 점수 임계값과 Rerank를 조정할 수 있습니다.

Sparse Search(전체 텍스트 검색)

질문과 문서에 포함된 단어의 일치를 기준으로 관련 청크를 찾는 방식입니다.

Temperature

LLM 응답의 무작위성을 조절하는 값입니다. 현재 LLM 자격 증명에서는 0에서 1 사이로 설정합니다.

VectorDB

Embedding 벡터를 저장하고 유사도 검색을 수행하는 데이터베이스입니다. 현재 Console의 등록 폼은 Milvus를 지원합니다.