소버린 AI 구축, 왜 모델보다 내부 문서 데이터가 먼저일까?

소버린 AI 구축, 왜 모델보다 내부 문서 데이터가 먼저일까?

요즘 회의에서 '소버린 AI' 얘기가 부쩍 늘었죠.

• "우리도 국산 모델로 가야 하지 않나요?"

• "데이터를 밖에 보내면 안 되는데, 결국 자체 모델밖에 답이 없나요?"

• "정부도 국가 LLM 만든다는데, 우리는 뭘 준비하죠?"

그런데 막상 도입을 시작하면 거의 다 같은 자리에서 멈춥니다. 국산 모델을 폐쇄망에 잘 올렸는데도, 정작 우리 회사 문서를 AI가 제대로 못 읽거든요.

💡 들어가기 전, 3줄 요약

• 소버린 AI의 출발점은 '어떤 모델이냐'가 아니라
  '내 데이터를 내가 통제할 수 있느냐' 입니다.

• 그 데이터의 대부분은 깔끔한 DB가 아니라
  PDF·HWP·스캔본 같은 비정형 문서 예요.

• 그래서 구축 순서는 모델보다
  '문서 구조화 → 폐쇄망 검색·검증'이 먼저입니다.

소버린 AI의 정의·정부 정책·글로벌 동향이 먼저 궁금하다면 이 글에 따로 정리해 뒀어요. 이 글은 거기서 한 발 더 들어가, '도입할 때 실제로 막히는 지점' 만 다룹니다. 소버린 AI가 뭐길래? AI 주권의 모든 것

1. 소버린 AI는 '모델 국산화'가 아니라 '데이터 통제'의 문제예요

한 줄만 짚고 넘어갈게요. 소버린 AI를 흔히 '자국 모델'로 이해하는데, 핵심은 모델이 아니라 통제권 입니다. 내 데이터를 누가 보관하고, 어디서 연산하고, 누가 책임지느냐 — 이게 내부에 있으면 소버린, 밖에 있으면 종속이죠.

여기서 중요한 포인트 하나. 모델은 바꿀 수 있어도, 우리 회사가 가진 데이터는 바뀌지 않습니다. 국산이든 외산이든 모델은 갈아끼우면 그만이지만, 통제해야 할 데이터 자체는 그대로예요. 그래서 소버린 AI의 진짜 질문은 이렇게 바뀝니다.

어떤 모델을 쓸까?→
이 문서들을, 밖으로 안 보내고, 내부에서 AI가 읽게 만들 수 있나?

2. 기업이 '데이터'라고 부르는 것의 정체

그럼 통제해야 할 그 데이터가 뭘까요? 많은 기업이 '정리된 테이블'을 떠올리는데, 막상 열어보면 현실은 이렇습니다.

기업 데이터의 약 80~90%가 이런 비정형 문서 라고들 합니다. 즉 소버린 AI에서 '내가 통제해야 할 데이터'의 대부분이 사실은 문서라는 거예요. 그런데 이 문서들은 사람 눈엔 멀쩡해 보여도, AI 입장에선 구조가 깨진 채로 들어오는 경우가 많습니다.

3. 내부 문서가 안 풀리면, 소버린 AI도 헛돕니다

국산 모델을 폐쇄망에 잘 띄웠다고 가정해도, 답변이 부실하면 원인은 대개 모델이 아니라 입력 문서 예요.

현장 증상

• 분명히 사내 규정에 있는 내용인데 "찾을 수 없다"고 합니다.

• 표가 많은 문서를 물어보면 숫자가 자꾸 흔들려요.

• 같은 질문인데 답이 매번 다릅니다.

왜 그럴까요?

• 문서가 PDF·HWP·스캔본이라 텍스트·구조가 깨진 채 검색(RAG)에 들어가요.

• 표의 항목-값 관계, 병합 셀, 제목-본문 계층이 무너지면서 근거가 엉킵니다.

• 결국 모델 문제가 아니라, AI가 읽을 수 있는 형태로 문서가 준비되지 않은 것 이 문제예요.

검색을 더 세게 튜닝해도 답이 흔들린다면, 범인은 검색이 아니라 입력 구조일 가능성이 큽니다. 이 부분은 따로 정리해 둔 글이 있어요.
Parser 설계가 RAG 정확도를 결정하는 이유

한 줄로 말하면, 소버린 AI는 '모델을 내부에 두는 것'이 아니라 '문서를 내부에서 AI가 읽게 만드는 것' 까지 가야 완성됩니다.

4. 그래서 구축 순서가 이렇게 정해집니다

소버린 AI를 '내 데이터를 내 안에서 쓰는 것'으로 보면, 순서가 자연스럽게 나옵니다.

여기서 ①②가 빠지면, 아무리 좋은 국산 모델을 폐쇄망에 둬도 '읽을 수 없는 문서'만 쌓입니다. 모델보다 문서 데이터가 먼저인 이유가 바로 이겁니다.

RAG가 기업에서 기대만큼 작동하지 않는 이유(입력 데이터 관점)도 함께 보면 좋아요. RAG란? 왜 기업에서는 기대만큼 효과가 나지 않는가

5. 한국딥러닝은 이 문제를 이렇게 풉니다 (DEEP Agent)

한국딥러닝은 소버린 AI의 핵심을 내부 문서를 외부로 안 보내고, 내부망에서 읽고-구조화하고-검증하는 것 으로 봅니다.

실제로 동일한 스캔 문서를 생성형 AI와 비교하면 차이가 분명합니다.

ChatGPT·Gemini가 텍스트 정확도 약 82% 수준에 머무는 반면, DEEP Agent는 98.7% 를 기록했어요. 생성형 AI는 흐릿한 글자를 문맥으로 '그럴싸하게' 지어내거나(환각) 표를 재배열하지만, DEEP OCR은 원문을 보존하기 때문입니다.

여기에 자체 VLM이 글로벌 멀티모달 벤치마크 OCRBench v2 영어 부문에서 1위(68.1점) 를 기록해 구글 제미나이·GPT를 앞섰고, 국내 광역지자체의 공공 LLM 문서 구조화, 대형 금융의 전사 서류 자동화 등 공공·금융 폐쇄망 환경에서 실제 업무에 적용되고 있습니다.

※ 고객사명은 보안상 익명(광역지자체·대형 금융사 등)으로만 표기합니다. 성능 수치는 자사 비교 테스트(내부 테스트셋 200장) 기준입니다.

6. 산업별로 '먼저 막히는 문서'는 다릅니다

소버린 AI를 정책이 아니라 문서 관점 으로 보면, 산업마다 첫 병목이 다릅니다.

7. 자주 묻는 질문 (FAQ)

Q. 국산 모델만 쓰면 소버린 AI 아닌가요?

A. 절반만 맞아요. 모델을 국내에 둬도, 그 모델이 읽을 내부 문서가 외부로 나가거나 구조가 깨져 있으면 통제권도 정확도도 확보되지 않습니다. 모델 국적보다 '데이터 경로와 문서 품질' 이 먼저입니다.

Q. 소버린 AI랑 온프레미스 AI는 같은 말인가요?

A. 온프레미스(폐쇄망 설치)는 소버린 AI의 구현 수단 중 하나예요. 소버린 AI는 데이터·모델·인프라 통제 전체를 말하고, 온프레미스는 그중 '데이터를 밖으로 안 보내는' 부분을 담당합니다.

Q. 공공문서를 HWPX(개방형)로 바꾸면 끝나는 것 아닌가요?

A. 포맷 개방은 시작일 뿐입니다. 포맷을 열어도 표·항목-값 구조를 AI가 이해하지 못하면 RAG 답변은 여전히 흔들려요. 그래서 개방형 전환 다음에 '구조화(파싱)'가 따라와야 합니다.

Q. 우리 회사 문서가 너무 지저분한데 가능한가요?

A. 그래서 OCR·Parser가 필요한 거예요. 손글씨·스캔본·제각각인 양식을 구조 단위로 정리하는 게 정확히 이 단계의 일입니다. 깨끗한 문서만 되는 거였으면 애초에 솔루션이 필요 없었겠죠.

결론

소버린 AI를 '자국 모델'로만 이해하면, 모델을 바꾸고도 같은 자리에 멈춥니다.

• 소버린 AI = 데이터 주권 = 내 데이터를 내 안에서 통제하는 것

• 그 데이터의 대부분은 비정형 문서(PDF·HWP·스캔본)

• 그래서 순서는 모델보다 문서 구조화(OCR·Parser)와 폐쇄망 RAG가 먼저

• 이걸 외부 반출 없이 한 번에 처리하는 방식이 DEEP Agent

모델은 빌릴 수 있어도, 데이터 통제권은 빌릴 수 없습니다. 소버린 AI의 출발점이 '내부 문서 데이터'인 이유예요.