공공기관 및 행정부처는 명확한 규정, 반복되는 심사·검토 업무, 수십 년치 축적된 행정 데이터까지, AI가 가장 잘 작동하는 환경과 그대로 맞아떨어집니다.
도입은 이미 의무에 가까운 흐름이 됐습니다. 기획재정부는 2025년 7월 공공기관운영위원회에서 'AI 활용 활성화 방안'을 논의하며 운영위 산하에 AI 소위원회를 설치하고, AI 서포터즈와 선도기관을 통해 도입을 확산하기로 했습니다. 국가인공지능전략위원회는 2030년까지 공공 AI 도입률 95% 달성을 목표로 제시한 상태입니다.
그런데 정작 현장의 활용 수준은 그 속도를 따라가지 못합니다. 기획재정부가 약 3,000명의 공공기관 종사자를 대상으로 한 설문에서 평균 AI 활용 수준은 5점 만점에 2.7점에 그쳤습니다. 챗봇, 자동응답, 문서 검색 자동화 정도가 도입의 대부분이고, AI를 본격적인 업무 혁신 도구로 활용하는 기관은 아직 드뭅니다. 도입은 하고 있지만, 현장에서는 제대로 사용되지 않는 것입니다.
의무적인 AI 도입, 챗봇 단계에 머물러 있는 현장
95%라는 목표 아래 대부분의 기관이 'AI를 도입하겠다'고 말하고 있지만, 현실은 민원 챗봇, 자동응답, 문서 검색처럼 표면적인 업무에서만 사용하는 정도에 머물러 있습니다.
AI가 직접 규정을 해석하고 사례를 따져 판단을 내리는 업무는 거의 손대지 못한 채 남아 있습니다. 실제로 현장 실무자들은 AI가 사용자의 질문에 답변하고 끝나는 것보다 안전관리나 정책 분석처럼 판단이 필요한 고난도 영역에서 활용할 수 있는지에 대한 더 큰 기대를 갖고 있습니다. 수요는 '판단을 돕는 도구'에 있는데, 도입의 현실은 아직 그 앞에 멈춰 서 있는 셈입니다.
AI 도입 단계에서 나타나는 RAG의 한계
이와 같은 복잡한 업무를 자동화하려는 시도는 대부분 RAG(Retrieval-Augmented Generation, 검색 증강 생성)에서 시작됩니다. 정부 실증 사례집에는 110건의 사례와 함께 RAG·벡터DB 기반 도입 방식이 제시됐고, 서울시는 RAG 기술을 적용한 챗봇 2.0 구축을 진행하는 등 공공 RAG 도입이 본격화되고 있습니다. 그러나 대부분은 AI 도입 이후 'RAG만으로는 실무 적용까지 가지 못했다'는 결론에 다다릅니다.
RAG는 비구조화된 문서 더미에서 관련 문장 조각을 찾아 그럴듯한 답변을 생성하는 데에는 효과적이지만, 정보의 의미와 그것이 속한 대상, 다른 정보와의 관계를 이해하는 작업에는 근본적인 한계가 있습니다. 문서를 텍스트 묶음으로만 다루기 때문에, 상위법에서 시행령, 내규, 지침으로 이어지는 계층 구조를 따라가는 복합 추론이나, 유효기간·자격요건 같은 규칙 기반 판단을 수행하지 못합니다. 숫자와 통계 처리에 약하고 할루시네이션 가능성이 높다는 점은 정확성과 감사추적이 생명인 공공기관 업무에서 치명적입니다.
공공기관이 정말로 풀어야 할 과제는 흩어진 데이터를 의미와 관계로 묶어내는 일입니다.
실제 수기 관리 사례에서 확인되는 구조화의 필요성
최근 한 공공기관이 Enhans에 보내온 문의는 이 문제를 현장의 언어로 보여줍니다. 해당 기관은 업무에 필요한 데이터를 전부 수기로 수집·관리하고 있었습니다. 웹과 여러 문서에 흩어진 정보를 담당자가 일일이 찾아 입력하다 보니, 불필요한 반복 작업과 정보의 시차가 끊임없이 발생했습니다.
그래서 실무적인 관점에서 이들이 던진 질문은 다음과 같습니다. 흩어진 정보를 자동으로 끌어올 수 있는지, 계약서 같은 비정형 문서를 파싱할 수 있는지, 데이터의 최신화가 가능한지, 이러한 데이터들을 한눈에 파악하고 보여줄 수 있는지. 더 나아가 데이터 수집에서 DB 구축, 웹·관리자 페이지, 기존 관리 시스템 연동, 챗봇까지 한 번에 가능한지를 묻습니다.
표면적으로는 제각각인 요구처럼 보이지만, 본질은 하나입니다. 흩어진 비정형 정보를 의미와 관계로 묶어, 사람이 손으로 하던 수집·갱신·비교·추론을 자동화해달라는 것입니다.
온톨로지, 의미·관계·근거를 구조로 만들다
Enhans는 데이터에 의미(Semantic)와 관계(Relation)를 부여하는 것부터 시작합니다. 핵심 엔진인 온톨로지는 업무에서 판단 대상이 되는 개념을 객체(Object)로, 그 특성을 속성(Property)으로, 객체와 객체 사이의 연결을 관계(Link)로 정의합니다. 그 위에 규칙·제약·추론 규칙을 담은 지식 사전(Knowledge) 레이어를 얹어, AI가 구조와 맥락으로 데이터를 이해하게 만듭니다.
이렇게 되면 "이 사안에 어떤 상위법과 시행령, 조례가 적용되며 그 기준으로 처리 절차와 담당 부서가 무엇인가" 같은, RAG가 풀지 못하던 관계 기반 판단이 가능해집니다.
내부 DB의 정형 테이블과 PDF·이미지·문서 같은 비정형 자료를 OCR과 ML로 추출해 온톨로지의 정의된 필드로 매핑하고, 그 위에서 멀티 에이전트가 협업해 실제 업무 흐름을 자동으로 수행합니다. 동시에 'AI 제안 → 자동 검증 → 담당자 승인 → 운영'으로 이어지는 Human-in-the-loop 구조가 오작동 리스크를 통제합니다. 모든 답변에는 법령과 출처가 자동으로 인용되어 근거 추적과 감사 추적이 가능하고, 담당자가 바뀌어도 같은 조건에서 같은 판단이 나오는 일관성이 확보됩니다. 보안 요건도 충족합니다. 망분리·오프라인 환경을 포함한 온프레미스와 프라이빗 클라우드에 데이터 외부 반출 없이 직접 배포할 수 있습니다.
End-to-End로 공공기관의 문제를 해결하는 AgentOS
앞서 소개한 수기 관리 기관의 문의도 정확히 이 기술과 맞닿아 있습니다. Enhans의 AgentOS는 계약서·보고서 같은 비정형 문서를 파싱하고, 웹과 오픈데이터를 자동 수집하는 파이프라인으로 흩어진 정보를 끌어옵니다.
데이터를 속성과 관계로 구조화해 온톨로지에 적재하면, 사람 손을 거치지 않고 자동으로 갱신되며 뷰가 즉시 생성됩니다. 데이터 수집에서 DB 구축, 관리자 페이지 생성, 기존 시스템 연동, 챗봇까지 하나의 흐름으로 이어지는 것이 바로 Enhans가 제공하는 End-to-End 문제 해결입니다.
공공 AX, AI가 판단을 자동화하는 시대로의 흐름
판단을 자동화하는 흐름은 이미 진행 중입니다. 사회보장정보원의 복지 사각지대 발굴 시스템은 47종의 위기 정보를 분석하고 있고, 국민권익위원회는 2026년 2월 'AI 민원답변 추천' 서비스를 개시해 답변 초안 자동 작성과 중복 민원 군집화로 응대 효율을 높이고 있습니다.
정부가 제시한 방향 역시 ‘국민 맞춤형 추천’으로의 전환입니다. 국민의 상태 변화와 생애 이벤트를 AI가 이해하고, 그에 맞는 복지를 사각지대 없이 안내하거나, 분산된 법령·조례·내규·과거 사례를 관계로 묶어 근거 있는 행정 답변을 자동 생성하는 것이 정확히 온톨로지가 풀어내는 영역입니다.
매일 공공 업무 현장에서 처리되는 수많은 심사·심의·민원 판단이 담당자에 따라 결과가 달라지고, 숙련된 인력이 떠나면 기준이 함께 사라졌던 구조가 바뀌기 시작하면, 그 변화는 단순 업무 효율화 그 이상의 가치를 만들어낼 것입니다.
이러한 흐름에서 모든 공공기관이 가장 먼저 마주해야 할 질문은 하나입니다. "우리 조직의 업무 지식이, 지금 AI가 읽을 수 있는 형태로 준비되어 있는가."
in solving your problems with Enhans!
We'll contact you shortly!