RAG(검색 증강 생성) 쉽게 이해하기

RAG(검색 증강 생성)는 현대 AI 애플리케이션 개발에서 가장 중요한 개념 중 하나입니다.

RAG가 해결하는 문제

대규모 언어 모델은 학습 데이터에 있는 것만 알고 있습니다. 비공개 문서, 회사 지식 베이스, 학습 이후 공개된 정보에 접근할 수 없습니다. 모르는 것에 대해 질문받으면 답변을 거부하거나 그럴듯하지만 틀린 정보를 만들어냅니다(환각).

RAG는 쿼리 시 AI에게 외부 지식에 대한 접근 권한을 부여하여 이를 해결합니다.

RAG 작동 방식: 간단한 비유

오픈북 시험을 떠올려보세요. RAG 없이는 기억만으로 시험을 보는 것입니다. RAG가 있으면 각 질문에 답하기 전에 교과서를 찾아볼 수 있습니다.

기술적 과정: 1) 색인: 문서를 청크로 분할하고 임베딩으로 변환하여 벡터 데이터베이스에 저장. 2) 검색: 질문의 임베딩과 저장된 임베딩을 비교하여 가장 관련 있는 청크를 찾음. 3) 생성: 검색된 청크를 LLM 프롬프트에 포함시켜 답변 생성.

실제 RAG 활용 사례

고객 지원 봇, 내부 지식 어시스턴트, 법률 연구 도구, 의료 정보 시스템 등.

일반적인 RAG 함정

RAG의 품질은 검색 품질에 전적으로 달려 있습니다. 잘못된 문서 청킹, 부적절한 임베딩 모델, 재순위 부재가 주요 함정입니다.