- 생성형 AI에서 RAG란 무엇일까?
- 12-27
- TECH
RAG는 LLM의 어떤 한계를 개선하는가?
안녕하세요, 저번 시간에는 LLM에 관련해서 살펴보았는데요, 이번 시간에는 LLM의 단점을 보완하는 RAG에 대해서 설명드리려고 합니다. RAG(Retrieval-Augmented Generation)는 LLM의 단점인 '사실 관계 오류 가능성'과 '맥락 이해 한계'를 개선하기 위한 기술입니다. 이는 LLM에 외부 지식 베이스를 결합해 생성 능력과 사실 기반 응답의 신뢰성을 강화하는 방식을 사용합니다.
RAG의 주요 개선점
1. 외부 지식 활용
- 대규모 구조화된 지식 베이스(예: Wikipedia)와 연결하여, 주어진 질문에 적합한 정보를 검색 및 추출합니다.
2. 증거 기반 생성
- 검색된 정보를 기반으로 보다 신뢰할 수 있는 답변을 생성하며, 답변의 출처를 명시해 신뢰도를 높입니다.
3. 맥락 이해력 강화
- 외부 정보를 활용해 질문의 배경 및 맥락을 파악하고, 단순히 패턴 매칭에 의존하지 않는 추론 기반 답변을 제공합니다.
이와 같은 접근을 통해 RAG는 LLM의 언어 생성 능력을 유지하면서도, 외부 지식을 결합해 보다 정확하고 설명 가능한 답변을 제시합니다. 질의응답, 정보 검색, 팩트체크 등 다양한 응용 분야에서 이 기술이 활발히 연구되고 있습니다.
RAG의 기본 개념과 작동 원리
RAG는 LLM이 최신 정보나 특정 도메인 지식을 포함하기 어려운 한계를 보완하기 위해 고안되었습니다. '지식 검색'과 '언어 생성'을 결합해 질문에 필요한 정보를 외부에서 검색해 활용하는 것이 핵심입니다. 아래는 RAG의 주요 구성 요소입니다.
1. 질의 인코더 (Query Encoder)
- 질문을 이해하기 위해 텍스트를 벡터로 변환합니다.
2. 지식 검색기 (Knowledge Retriever)
- 질문에 기반해 외부 지식 베이스에서 관련 정보를 검색합니다.
3. 지식 증강 생성기 (Knowledge-Augmented Generator)
- 검색된 정보를 기반으로 보다 풍부하고 사실에 가까운 답변을 생성합니다.
동작 과정
1. 사용자가 질문을 입력하면, 질의 인코더가 이를 벡터 형태로 변환합니다.
2. 지식 검색기가 외부 지식 베이스에서 관련 정보를 추출합니다.
3. 추출된 정보는 생성 모델에 전달되어 답변으로 생성됩니다.
이로써 RAG는 LLM의 강력한 생성 능력과 외부 지식의 활용을 결합하여 최신 정보 및 전문적 도메인 지식 기반의 답변을 생성할 수 있습니다.
RAG가 필요한 경우
1. 최신 정보 접근
- LLM은 학습 이후 새롭게 등장한 정보(예: 최근 뉴스, 업데이트된 법률)에 접근할 수 없습니다.
- RAG는 실시간 데이터베이스와 연동하여 최신 정보를 검색하고 이를 답변에 활용할 수 있습니다.
2. 특정 도메인 지식
예를 들어, 의료, 법률, 엔지니어링처럼 전문 지식이 필요한 영역에서는 LLM의 사전 학습 범위를 벗어난 질문에 답하기 어렵습니다.
- RAG는 외부 지식베이스를 검색하여 도메인 특화된 정보로 답변을 보강합니다.
3. 신뢰성과 근거 제공
- LLM의 응답은 설득력은 있지만 근거가 없는 경우가 많습니다. 이는 비즈니스 및 학술적 응용에서 문제가 될 수 있습니다.
- RAG는 출처를 명시하고, 검색된 정보로 신뢰성을 높일 수 있습니다.
4. 효율적인 메모리 사용
- 대규모 데이터를 모두 모델에 포함시키는 것은 비효율적입니다. RAG는 필요한 순간에만 데이터를 검색해 사용함으로써 모델 크기를 줄이고 계산 효율을 높일 수 있습니다.
RAG 상용 서비스 사례
현재 RAG 기술을 활용하는 대표적인 서비스는 다음과 같습니다.
1. Microsoft Bing Search
Bing에 RAG 기반 대화형 AI를 적용, 검색 질의에 맞는 웹 페이지 정보를 활용한 자연어 응답을 제공합니다.
2. Anthropic’s Constitutional AI (CAI)
대화 중 외부 지식을 활용하며, 답변의 출처를 명시해 신뢰도를 높인 시스템입니다.
3. Perplexity AI
검색된 정보를 투명하게 제공하며, 응답 생성에 활용합니다.
한계와 과제
RAG의 성능은 연결된 지식 베이스의 품질과 범위에 의존하므로, 고품질의 지식 데이터 구축이 필수적입니다. 또한 프라이버시 보호, 책임 문제 등 윤리적 과제를 함께 해결해야 안전하고 신뢰할 수 있는 기술로 자리잡을 수 있습니다.
