← 포트폴리오 목록

RAG 파이프라인 진단 콘솔

문서 수집부터 답변 생성까지 이어지는 RAG 파이프라인을 단계별로 계측하고, 하이브리드 검색·리랭커 비교·다국어 질의 전처리를 통해 답변 정확도를 높이며, 근거 기반 답변과 자동 평가 로그, 운영 가이드까지 하나의 콘솔로 구현합니다.

RAG 파이프라인 스테이지별 계측 엔진 구현청킹·임베딩·검색·리랭킹·생성 5단계에 타이밍/스코어 로깅을 삽입해 병목 구간을 식별하는 계측 레이어 설계
하이브리드 검색 가중치 조정 엔진 구현vector·keyword·metadata 3개 신호의 가중합 스코어링 로직 설계, pgvector 유사도와 전문 검색 결합
리랭커 A/B 비교 프레임워크 구축reranker on/off 두 경로 응답을 병렬 실행해 순위 변화를 diff로 시각화하는 비교 로직 설계
서비스 타입Web
업종교육 플랫폼
기술 스택
Next.jsTypeScriptPostgreSQLpgvectorPrismaOpenAI APITailwind CSSRecharts
주요 기능
  • RAG 파이프라인 진단
  • 하이브리드 검색 설정
  • 리랭커 A/B 비교
  • 답변 품질 검증
Overview

프로젝트 개요

범위: 개발, 디자인, 기획

문서 수집부터 답변 생성까지 이어지는 RAG 파이프라인을 단계별로 계측하고, 하이브리드 검색·리랭커 비교·다국어 질의 전처리를 통해 답변 정확도를 높이며, 근거 기반 답변과 자동 평가 로그, 운영 가이드까지 하나의 콘솔로 구현합니다. Next.js와 PostgreSQL+pgvector 기반으로 설계합니다.

작업 범위

  • RAG 파이프라인 진단: 문서 수집부터 답변 생성까지 6단계 파이프라인의 처리 흐름과 실패 지점을 한 화면에서 확인합니다
  • 하이브리드 검색 설정: 벡터 유사도, 키워드 매칭, 메타데이터 필터를 결합한 검색 가중치를 화면에서 직접 조정하고 결과 변화를 즉시 확인합니다
  • 리랭커 A/B 비교: 리랭커 적용 전후 검색 결과의 순위 변화와 응답 품질 차이를 나란히 비교합니다
  • 답변 품질 검증: 근거 문서 기반으로 생성된 답변과 출처(문서명·시행일·확인일)를 함께 검증하고, 근거가 부족한 질의는 보류 처리합니다

주요 업무

  • RAG 파이프라인 진단 화면: 각 스테이지(수집/정규화/청킹/임베딩/검색/리랭킹/생성)에 타이밍·스코어 로그를 기록하고, 실패 사례를 검색실패/근거부족/청킹오류 등 유형별로 자동 분류합니다
  • 하이브리드 검색 설정 화면: pgvector 코사인 유사도와 PostgreSQL 전문 검색(tsvector)을 가중합으로 결합하고, 문서 유형·시행일 등 메타데이터 필터를 추가 적용합니다
  • 리랭커 A/B 비교 화면: 동일 질의를 리랭커 on/off 두 경로로 병렬 실행해 순위 diff와 상위 문서 변경 내역을 시각화합니다
  • 답변 품질 검증 화면: 답변 생성 시 인용 문장과 근거 문서를 매핑해 출처를 표기하고, 검색 신뢰도가 임계값 미만이면 답변 대신 보류 안내로 전환합니다
RAG 파이프라인 진단 콘솔
요구사항 정의

프로젝트 핵심 과제

프로젝트 진행 시 해결한 핵심 기술 과제입니다.

문서 수집→청킹 단계에서 청크 경계가 조항·조문 단위를 훼손하지 않

분할 규칙을 설계할 필요

vector·keyword·metadata 검색 결과를 하나의 순위로 병합하는 가중치 조정 로직 설계

리랭커 적용 전후 응답을 동시에 유지·비교하는 이중 실행 파이프라인의 지연시간 관리

근거 신뢰도가 낮은 질의를 정확히 감지해 오답 대신 보류 응답으로 전환하는 임계값 설계

구현 내용

핵심 기능 상세

핵심 기능 1

RAG 파이프라인 진단

문서 수집부터 답변 생성까지 6단계 파이프라인의 처리 흐름과 실패 지점을 한 화면에서 확인합니다.

  • PostgreSQL 트리거 기반 스테이지별 처리 로그 적재, pgvector 임베딩 차원과 유사도 스코어를 함께 기록
  • Recharts로 파이프라인 단계별 처리량·지연시간을 퍼널 형태로 시각화
  • 실패 사례를 원인 유형(검색실패/근거부족/청킹오류)별로 자동 태깅하는 분류 로직 구현

PostgreSQL 트리거와 pgvector 메타데이터를 결합해 파이프라인 각 단계의 처리 이력을 추적 가능한 감사 로그 구조로 설계합니다

RAG 파이프라인 진단
핵심 기능 2

하이브리드 검색 설정

벡터 유사도, 키워드 매칭, 메타데이터 필터를 결합한 검색 가중치를 화면에서 직접 조정하고 결과 변화를 즉시 확인합니다.

  • pgvector ivfflat 인덱스 기반 벡터 유사도 검색과 Postgres tsvector 전문 검색 병렬 실행
  • 슬라이더 UI로 vector/keyword/metadata 3개 신호의 가중치를 실시간 조정, 결과 리스트 즉시 갱신
  • 메타데이터 필터(문서유형·시행일·확인일) 조합을 URL 쿼리 상태와 동기화

단일 벡터 검색만으로 놓치는 키워드·메타데이터 매치를 함께 포착하도록 3개 신호를 가중합 스코어로 통합하는 검색 구조를 설계합니다

하이브리드 검색 설정
핵심 기능 3

리랭커 A/B 비교

리랭커 적용 전후 검색 결과의 순위 변화와 응답 품질 차이를 나란히 비교합니다. 동일 질의를 리랭커 on/off 두 경로로 병렬 실행해 순위 diff와 상위 문서 변경 내역을 시각화합니다.

  • 동일 질의에 대해 리랭커 적용/미적용 경로를 병렬 실행하는 비교 러너 구현
  • 순위 변화를 좌우 대조 리스트 + 이동 화살표로 시각화하는 diff 컴포넌트 설계
  • 리랭커 적용 시간과 원본 검색 대비 순위 변경 문서 수를 함께 기록

리랭커 on/off 두 경로를 병렬 실행해 순위 diff를 즉시 대조할 수 있는 비교 프레임워크를 구현합니다

리랭커 A/B 비교
핵심 기능 4

답변 품질 검증

근거 문서 기반으로 생성된 답변과 출처(문서명·시행일·확인일)를 함께 검증하고, 근거가 부족한 질의는 보류 처리합니다.

  • 생성된 답변 문장과 근거 문서 chunk를 매핑해 인라인 출처 표기 구현
  • 검색 신뢰도 임계값 기반 conservative fallback 로직 — 근거 부족 시 보류 응답으로 자동 전환
  • OpenAI API 기반 답변 생성 요청에 근거 문서 컨텍스트를 구조화해 전달

검색 신뢰도 임계값 기반 보류 로직을 구현해, 근거가 확보되지 않은 질의에는 오답 대신 안내 메시지로 전환하는 안전장치를 설계합니다

답변 품질 검증
구현 과정

프로젝트 진행 단계

STEP 1

RAG 파이프라인 구조 분석 및 계측 설계 · 2026.09

6단계 파이프라인 계측 포인트 정의, PostgreSQL+pgvector 스키마 및 로그 테이블 설계

STEP 2

하이브리드 검색 엔진 개발 · 2026.09

pgvector 유사도 검색 + Postgres 전문검색 + 메타데이터 필터 결합 API 18~22개 구현

STEP 3

리랭커 비교 및 답변 생성 UI 개발 · 2026.09

OpenAI API 기반 리랭킹·답변 생성 연동, React 대시보드 10~12개 화면 구현

STEP 4

통합 테스트 및 진단 리포트 자동화 · 2026.09

실패 원인 분류 로직 검증, 파이프라인 diff 리포트 자동 생성, 크로스 브라우저 테스트

프로젝트 성과

주요 성과

RAG 파이프라인 스테이지별 계측 엔진 구현청킹·임베딩·검색·리랭킹·생성 5단계에 타이밍/스코어 로깅을 삽입해 병목 구간을 식별하는 계측 레이어 설계
하이브리드 검색 가중치 조정 엔진 구현vector·keyword·metadata 3개 신호의 가중합 스코어링 로직 설계, pgvector 유사도와 전문 검색 결합
리랭커 A/B 비교 프레임워크 구축reranker on/off 두 경로 응답을 병렬 실행해 순위 변화를 diff로 시각화하는 비교 로직 설계
근거 부족 판별 및 보류 로직 구현검색 결과 신뢰도 임계값 기반 conservative fallback 구현, 출처 미확보 시 보류 응답으로 전환하는 가드 설계
Highlights

기술적 주안점

  • PostgreSQL 트리거와 pgvector 메타데이터를 결합해 파이프라인 각 단계의 처리 이력을 추적 가능한 감사 로그 구조로 설계합니다
  • 단일 벡터 검색만으로 놓치는 키워드·메타데이터 매치를 함께 포착하도록 3개 신호를 가중합 스코어로 통합하는 검색 구조를 설계합니다
  • 리랭커 on/off 두 경로를 병렬 실행해 순위 diff를 즉시 대조할 수 있는 비교 프레임워크를 구현합니다

유사한 프로젝트를 기획하고 계신가요?

FIRSTPIP이 개발 범위와 로드맵을 함께 정리해드립니다

무료 상담 시작하기