공공 AI, 지금 왜 이슈인가?
‘공공 AI’는 더 이상 개념적인 미래가 아닌 실시간으로 현장을 바꾸는 기술입니다. 행정안전부, 서울시 등 주요 행정 기관이 초거대 AI 기술을 행정 서비스에 적용하고 있으며, 검색증강생성(RAG) 기술, 자동화된 제안서 분석 등 다양한 기능이 실제로 사용되고 있습니다. 이 흐름은 단순 디지털 전환이 아니라 AI 주권 확보와 데이터 활용 혁신이라는 측면에서 중요한 의미를 갖습니다.
정부는 어떻게 AI 도입을 가이드하고 있나?
정부는 2025년 4월, 행정·공공기관 전반에 걸쳐 AI 기술을 안전하고 효과적으로 도입할 수 있도록 다음의 자료를 배포하였습니다.
이 가이드라인은 AI 도입을 단순한 기술 구현이 아니라 전략목표 기반의 정책 추진으로 전환하는 데 초점을 맞추고 있습니다. 특히 무분별한 AI 도입을 방지하고, ‘사회문제 해결’, ‘대국민 서비스 혁신’, ‘일하는 방식 효율화’라는 세 가지 전략목표에 따라 사업을 추진하도록 권고하고 있습니다.
공공기관은 AI를 어떻게 실제로 쓰고 있나?
디지털플랫폼정부위원회(디플정위)는 실제 적용을 촉진하기 위해 다음의 내용을 포함한 실무 중심의 사례집을 함께 배포했습니다.
110건의 실증 사례 수록
사례별 활용 기술, 개발 내용, 성과 지표 명시
RAG, 벡터 DB, 초거대 AI 인프라 도입 방식 제시
실제 서울디지털재단은 RAG 파이프라인 구축 연구, 서울시립과학관은 AI 기반 전시 정보 제공 시스템 등 구체적인 프로젝트를 수행 중이며, 각 기관에서 AI를 적용한 정량적 결과가 나오고 있습니다.
AI 입찰, 얼마나 커지고 있을까?
공공 AI 도입은 단순히 정책의 방향성에 그치지 않고 실제 예산 집행과 입찰 규모에서 그 효과가 드러나고 있습니다. 클라이원트의 분석에 따르면:
2020년~2025년 사이 AI 관련 입찰 공고 수는 급격히 증가하였습니다.
2024년에는 총 1,844건의 공고가 확인되었으며,
10억 원 이상 규모의 사업이 대폭 증가하였습니다.
예를 들어, ‘범정부 AI 기반 통합 콜센터 서비스 구축 2차’는 106.1억 원 규모로, 기존 사업보다 훨씬 대규모화된 양상을 보이고 있습니다.
공공 RAG 프로젝트의 확산
이제는 RAG 기술도 공공에서 본격적으로 도입되고 있습니다. ‘검색증강생성(RAG)’은 단순히 답변을 생성하는 기존 AI와 달리, 검색 기반의 정보 탐색과 생성형 모델을 결합해 정확하고 최신성 있는 결과를 도출하는 방식입니다.
서울디지털재단은 2025년부터 공공 RAG 파이프라인 구축 연구를 발주했습니다.
이는 민간 RAG 기술보다 엄격한 보안 체계 및 데이터 품질 기준을 따릅니다.
가이드라인 2.0에서는 RAG 기반 데이터 학습, 벡터DB 구축 등의 기술을 실제 적용 사례로 반영하고 있습니다.
공공 AI 도입 시 주의할 점은?
정부는 AI 도입 과정에서 다음 요소들을 반드시 고려할 것을 권고하고 있습니다.
초거대 AI 인프라 구축 방법
범정부 공통기반 활용 vs. 기관별 자체 구현
데이터 보안 분류 및 통제 체계 마련
국가망 보안 체계 기준 준수
성과지표 기반의 AI 과제 성과 관리
단순 완료 여부가 아닌, 투입-과정-산출-결과 중심의 평가
이러한 항목들은 가이드라인과 함께 제공되는 체크리스트 형태의 절차 문서에서 단계별로 안내되고 있습니다.
앞으로 공공 AI, 어디까지 확장될까?
공공 AI는 이제 단순한 자동화 도구가 아니라 정책 도구이자 디지털 인프라로 자리매김하고 있습니다. 다음과 같은 흐름이 예고되고 있습니다:
기관별 AI PoC 프로젝트 확대
AI 도입에 대한 민관 협력 기반의 평가 시스템 마련
초거대 AI의 실무 적용을 위한 RAG, 자동 요약, 정책 분석 기능의 고도화
특히, 검색 기반 정책 설계, 민원 분석 자동화, 제안요청서(RFP) 자동화 기능 등은 정책 현장에서 ‘AI 실무자’ 역할을 대체 또는 보완할 수 있는 수준까지 도달할 것으로 예상됩니다.
[FAQ] 공공 AI에 대해 자주 묻는 질문
Q. 공공 AI란 무엇입니까?
공공기관이 사용하는 인공지능 기술로, 행정 업무, 대민 서비스, 정책 설계 등에 활용되는 AI를 의미합니다.
Q. 공공기관은 어떤 방식으로 AI를 도입하고 있습니까?
가이드라인 2.0에 따라 과제 정의, 인프라 구축, 기술 선정, 성과 평가 등의 절차에 따라 추진됩니다.
Q. RAG 기술은 무엇이며 왜 중요한가요?
RAG는 검색 기반 정보 탐색과 생성형 AI를 결합해 정밀하고 근거 있는 답변을 생성하는 기술로, 정책 설계나 데이터 분석에 적합합니다.
Q. AI 입찰 시장 규모는 얼마나 되나요?
2024년 기준으로만 1,800건 이상의 공고가 확인되었으며, 고액 공고도 증가하는 추세입니다.
[개념 설명] 공공 AI 키워드 한눈에 보기
공공 AI: 공공기관이 행정 및 정책 업무에 활용하는 인공지능 기술입니다.
초거대 AI 도입: 대규모 연산과 데이터를 처리할 수 있는 고성능 AI 모델을 공공에 적용하는 것을 의미합니다.
공공 RAG: 검색 기반 데이터와 생성형 AI를 결합한 검색증강생성 기술을 공공 업무에 적용한 사례입니다.
AI 입찰 데이터: 공공기관이 발주하는 AI 관련 사업의 입찰 공고, 규모, 기관별 현황 등 시장 정보를 말합니다.
맺음말 – 공공 AI는 디지털정부의 인프라가 된다
‘공공 AI’는 단순한 기술이 아니라 국가의 디지털 역량을 구성하는 핵심 자산입니다.
이번 가이드라인 2.0과 입찰 트렌드, 실증 사례집은 단순한 참고 자료가 아닌,
실질적인 실무의 방향성을 제시하는 설계도입니다.
앞으로의 행정과 정책은 ‘사람이 데이터를 이해하는 방식’에서
‘AI가 데이터를 정제하고 사람이 방향을 결정하는 방식’으로 바뀌게 될 것입니다.
