에이전틱 RAG 종류와 작동 원리, 문서 업무 적용 가이드
에이전틱 RAG를 검색하면 성격이 다른 두 종류의 글이 나옵니다.
하나는 개념과 아키텍처를 그림으로 설명하는 글, 다른 하나는 LangGraph나 LlamaIndex로 직접 구현하는 코드 튜토리얼입니다. 둘 다 틀린 말은 아닌데,
막상 "그래서 우리 회사 문서에 RAG를 붙였더니 왜 자꾸 틀린 답을 하지"라는 질문에는 답이 잘 나오지 않습니다.
이 글은 그 간극을 메우는 것을 목표로 합니다. 에이전틱 RAG를 일반 RAG와의 차이, 그리고 4가지 유형이라는 두 축으로 한 번에 정리하고, 마지막에는 기업에서 가장 자주 부딪히는 문서 업무에 이걸 붙일 때 무엇이 정확도를 가르는지까지 짚어 드리겠습니다.
핵심 요약
에이전틱 RAG는 한 번 검색하고 답하는 일반 RAG와 달리, 계획하고 검색하고 결과를 스스로 평가해 다시 검색하는 루프로 답을 만드는 방식입니다.
유형은 라우팅형, 다단계 검색형, 자기교정형, 멀티에이전트형 네 가지로 나눠 보면 깔끔합니다.
검색 루프가 아무리 똑똑해도, 그 앞단에서 문서를 잘못 읽으면 검색 대상 자체가 오염되어 전부 무너집니다.
그래서 기업 문서 업무에서는 검색 전략보다 문서 이해, 즉 정확한 인식과 구조화가 먼저입니다.
1. 에이전틱 RAG란? 30초 정의
에이전틱 RAG(Agentic RAG)는 RAG에 에이전트의 판단 능력을 결합한 방식입니다. 일반 RAG가 질문을 받아 한 번 검색하고 그 결과로 답을 만든다면, 에이전틱 RAG는 질문을 스스로 분해하고 어디를 검색할지 고르고 결과가 충분한지 따진 뒤 부족하면 다시 검색합니다.
핵심은 검색을 한 번의 고정된 동작이 아니라, 목표에 다다를 때까지 반복하는 과정으로 다룬다는 점입니다. 여기서 RAG 자체가 생소하다면 아래 글을 먼저 보시면 훨씬 잘 읽힙니다.
2. 일반 RAG vs 에이전틱 RAG, 무엇이 다른가
가장 헷갈리는 지점입니다. 차이는 판단과 반복에 있습니다. 일반 RAG는 검색 결과를 그대로 받아 쓰고, 에이전틱 RAG는 그 결과가 쓸 만한지 스스로 평가해 필요하면 다시 검색합니다.
구분 | 일반 RAG | 에이전틱 RAG |
|---|---|---|
검색 방식 | 1회 고정 검색 | 필요 시 반복·다중 검색 |
결과 판단 | 검색 결과 그대로 사용 | 결과 품질을 스스로 평가 |
소스 선택 | 단일 벡터DB 위주 | 여러 소스·도구 중 선택 |
실패 대응 | 근거가 약해도 그대로 생성 | 부족하면 다시 검색·보정 |
강한 질문 | 단순·단답 질의 | 다단계·비교·조건 질의 |
예를 들어 "작년 3분기 대비 올해 비용이 늘어난 항목을 계약서에서 찾아 줘"라고 하면, 일반 RAG는 한 번 검색한 조각으로 답을 만들다 근거가 부족하면 그대로 지어내기 쉽습니다. 에이전틱 RAG는 질문을 항목별로 쪼개 여러 번 검색하고 맞대어 본 뒤 답합니다.
3. 에이전틱 RAG는 어떻게 작동하나, 4단계 루프
작동은 네 단계가 돌고 도는 구조입니다.
계획(Plan) — 질문을 하위 질문으로 나누고 어떤 소스를 볼지 정합니다.
검색(Retrieve) — 정한 소스에 질의해 근거를 모읍니다.
평가(Evaluate) — 모은 근거가 답하기에 충분한지, 서로 모순되지 않는지 따집니다.
생성 또는 재검색(Generate/Retry) — 충분하면 답을 만들고, 부족하면 다시 계획으로 돌아갑니다.
이 루프를 반복하며 근거를 채워 나가는 것이 에이전틱 RAG의 원리입니다.
여기서 스스로 근거를 따지는 판단은 단계적 추론과 맞닿아 있습니다.
4. 에이전틱 RAG 종류, 4가지 유형
루프를 어떻게 굴리느냐에 따라 크게 네 가지로 나뉩니다.
① 라우팅형 (Routing)
질문을 보고 어느 소스로 보낼지 먼저 정하는 방식입니다. 사내 문서, 데이터베이스, 웹처럼 소스가 여러 개일 때 질문에 맞는 곳으로 길을 터 줍니다. 가장 단순하고 손이 덜 갑니다.
② 다단계 검색형 (Multi-step Retrieval)
한 번의 검색으로 답이 안 나오면 질문을 쪼개 여러 번 검색합니다. 여러 문서에 흩어진 정보를 모아야 답이 되는 복합 질문에 강합니다.
③ 자기교정형 (Self-correction)
검색 결과의 품질을 스스로 평가해, 근거가 부실하면 질의를 바꿔 다시 검색합니다. 답 하나의 정확도가 업무에 치명적인 영역에서 값을 합니다.
④ 멀티에이전트형 (Multi-agent)
검색·정리·검증 같은 역할을 여러 에이전트가 나눠 맡아 협업합니다. 상위 에이전트가 목표를, 하위 에이전트가 세부 작업을 담당하는 오케스트레이션 구조로, 복합 워크플로우에 어울립니다.
4가지 한눈에 비교
유형 | 핵심 | 언제 쓰나 |
|---|---|---|
라우팅형 | 질문 보고 소스 선택 | 소스가 여럿일 때 |
다단계 검색형 | 부족하면 반복 검색 | 한 번에 안 풀리는 질문 |
자기교정형 | 결과 품질 스스로 평가 | 정확도가 중요한 업무 |
멀티에이전트형 | 역할 나눠 협업 | 여러 단계의 복합 업무 |
여러 에이전트를 기업에서 어떻게 통제하며 굴리는지가 궁금하다면 AI 에이전트 종류 완벽정리 글에서 권한과 자율성 기준의 실무 분류를 함께 볼 수 있습니다.
5. 에이전틱 RAG의 한계와 과제
에이전틱 RAG가 만능은 아닙니다. 도입 전에 짚어야 할 한계가 몇 가지 있습니다. 먼저 여러 번 검색하고 평가하는 만큼 응답이 느려지고 비용이 늘어납니다. 다음으로 루프와 도구 연결을 설계하고 유지해야 하므로 구현 복잡도가 일반 RAG보다 높습니다. 그리고 근거를 따져 재검색하더라도 환각이 완전히 사라지지는 않습니다.
여기에 가장 근본적인 한계가 하나 더 있습니다. 이 모든 정교한 루프도 결국 검색해 오는 근거가 정확할 때만 값을 한다는 점입니다. 그래서 실무에서 에이전틱 RAG의 성패는 검색 전략보다, 그 근거를 만들어 내는 앞단에서 문서를 얼마나 정확히 이해했는지에서 갈립니다.
6. 그런데 왜 우리 문서에선 자꾸 틀릴까
에이전틱 RAG를 붙였는데도 답이 흔들린다면, 원인은 대개 검색 전략이 아니라 그 앞단에 있습니다. 아무리 똑똑하게 재검색해도, 애초에 문서를 잘못 읽어 두면 검색 대상 자체가 오염되기 때문입니다.
기업 문서는 표와 서식, 손글씨가 뒤섞인 비정형(PDF·HWP·스캔본)이 대부분입니다. 이런 문서를 대충 읽으면 병합된 표가 풀려 숫자가 엉뚱한 칸에 붙고, 검색 단위로 쪼개는 과정에서 맥락이 잘립니다. 오염된 조각을 여러 번 검색해도 근거가 틀어져 있으니, 에이전트는 성실하게 틀린 답에 이릅니다.
결국 에이전틱 RAG의 성능은 검색 루프의 영리함이 아니라, 그 루프에 들어가는 근거의 품질이 좌우합니다.
7. 기업 문서에 붙일 때 한국딥러닝은 어떻게 접근하나
한국딥러닝은 에이전틱 RAG의 출발점을 ‘검색’이 아닌 ‘문서 이해’로 봅니다. DEEP OCR은 비정형·다국어·손글씨 문서에서 정보를 추출하고, DEEP Parser는 표와 병합 셀 등 복잡한 레이아웃을 구조 단위로 복원해 원문의 내용과 근거 구조를 보존합니다.
이를 기반으로 DEEP Agent는 문서 수집·분류·추출·검증부터 사내 시스템 연계까지 하나의 흐름으로 자동화하며, 온프레미스와 폐쇄망 환경에서도 적용할 수 있습니다.
이 자동화가 지향하는 방향은 ‘3 Zero AI Worker’입니다. Zero Training, Zero Hallucination, Zero Review를 통해 반복 학습과 전수 검수 부담을 줄이고, 운영 효율과 비용 절감으로 연결합니다.
이러한 한국딥러닝의 자체 멀티모달 모델은 OCRBench v2 영어 부문에서 68.1점으로 1위를 기록했습니다. 문서 이해에 특화된 기술로 복잡한 표와 숫자 정보를 원문 구조에 가깝게 보존해 신뢰도 높은 근거를 제공합니다.
8. 자주 묻는 질문
Q. 에이전틱 RAG와 일반 RAG의 가장 큰 차이는 무엇인가요?
일반 RAG는 한 번 검색해 그 결과로 답하고, 에이전틱 RAG는 결과가 충분한지 스스로 평가해 부족하면 다시 검색합니다. 판단과 반복이 붙었다는 점이 가장 큰 차이입니다.
Q. 에이전틱 RAG를 쓰면 환각이 사라지나요?
완전히 사라진다고 보긴 어렵습니다. 다만 근거를 따져 재검색하므로 근거 없이 지어내는 경우를 줄이는 방향으로 작동합니다. 근거로 쓰는 문서를 정확히 읽어 둘수록 효과가 큽니다.
Q. 우리 회사의 PDF나 HWP 문서에도 되나요?
됩니다. 다만 비정형 문서는 인식과 구조화 품질이 답의 정확도를 좌우하므로, 실제 문서 샘플로 검색 근거가 제대로 만들어지는지 먼저 확인하는 것을 권장합니다.
Q. 도입하려면 개발팀이 있어야 하나요?
직접 구현하려면 개발 역량이 필요하지만, 문서 업무 자동화는 인식과 구조화, 검증, 연계를 묶어 제공하는 방식으로 코드 부담을 줄여 도입할 수 있습니다.
결론
에이전틱 RAG, 두 갈래로 기억하면 됩니다. 유형은 라우팅형에서 다단계 검색형, 자기교정형, 멀티에이전트형으로 넓어지고, 성격은 한 번 검색하고 마는 일반 RAG와 스스로 판단해 다시 검색하는 에이전틱 RAG로 갈립니다. 그리고 기업의 진짜 일감인 문서 업무에서는, 검색 루프를 정교하게 다듬기 전에 그 루프에 들어갈 근거부터 정확해야 합니다. 검색이 아니라 문서 이해가 먼저입니다.
문서 기반 RAG, 어디까지 가능할까요?
문서 종류와 처리량, 검증이 필요한 업무 규칙, 보안 요건(온프레미스·내부망)을 알려 주시면 우리 회사 문서 기준으로 적용 범위를 함께 확인해 드립니다.
