다크 모드
AI Forge 소개
AI Forge는 LLM, 지식 베이스, 외부 도구와 파이프라인을 조합해 AI 애플리케이션을 구성하고 운영하는 플랫폼입니다. Console에서 리소스를 등록하고 애플리케이션별 설정·품질·이력을 관리할 수 있습니다.
주요 기능
AI 어시스턴트
애플리케이션을 만들고 UI, LLM, 지식 베이스, 외부 도구와 인증 정보를 설정합니다. 노드 기반 파이프라인에서 질문 처리, 검색, 프롬프트와 답변 생성 흐름을 구성합니다.
지식 베이스와 데이터소스
VectorDB와 Embedding 자격 증명으로 지식 베이스를 만들고, Document 또는 QA 컬렉션을 운영합니다. 문서를 직접 추가하거나 FTP·S3·Web·수동 데이터소스를 연결해 적재한 뒤 검색 테스트로 결과를 확인합니다.
서비스 연동
MCP 서버와 API 도구를 등록해 애플리케이션이 외부 시스템의 데이터와 기능을 사용할 수 있게 합니다. 리소스 공개 범위로 전체, 그룹, 비공개 접근을 구분합니다.
품질과 이력
전체 품질 현황에서 평가 지표를 확인하고, 애플리케이션별로 Golden Set, 평가 실행, 평가 프로필을 관리합니다. 애플리케이션의 이력 관리 탭에서는 대화와 사용자 피드백을 확인하며, 대화 상세에서 노드별 LLM 호출 정보를 볼 수 있습니다.
운영 관리
자격 증명 관리에서 LLM, Embedding, Rerank, VectorDB 연결을 관리합니다. 애플리케이션 파이프라인의 금칙어 노드에서 앱별 금칙어를 관리하고, 정책 관리에서는 사용량 제한을 확인합니다. 사용자 관리에서는 사용자 역할과 그룹 권한을 관리합니다.
Console 구성
| 영역 | 주요 기능 |
|---|---|
| 대시보드 | 애플리케이션 상태, 요청과 연결 리소스 확인 |
| 품질 현황 | 전체 평가 지표와 품질 추이 확인 |
| 데이터소스 | 문서·웹 수집 소스와 스케줄 관리 |
| AI 어시스턴트 | 애플리케이션 설정, 파이프라인, 품질, 이력 관리 |
| 지식 베이스 | 컬렉션, 문서·QA, 적재와 검색 테스트 |
| 서비스 연동 | MCP 서버와 API 도구 등록 |
| 자격 증명 관리 | 모델과 VectorDB 연결 정보 관리 |
| 사용량 | 요청, 세션, 비용 추이 확인 |
| 정책 관리 | 사용량 제한 확인 |
| 사용자 관리 | 사용자 역할과 그룹 권한 관리 |
일반적인 작업 흐름
- LLM과 필요한 Embedding·VectorDB 자격 증명을 준비합니다.
- 문서 기반 검색이 필요하면 지식 베이스와 컬렉션을 만들고 데이터를 적재합니다.
- 애플리케이션을 만들고 기본 설정에서 모델, 지식 베이스와 도구를 연결합니다.
- 파이프라인의 노드 배치와 프롬프트를 구성합니다.
- 검색 테스트와 Golden Set 평가로 품질을 확인합니다.
- 대시보드, 사용량, 애플리케이션 이력으로 운영 상태를 점검합니다.