인공지능(AI)의 도입은 정부 운영을 혁신하여 생산성을 높이고, 대국민 서비스를 개선하며, 공공 부문 전반의 효율성을 향상시킬 것으로 기대됩니다. Accenture의 최근 연구에 따르면, 전 세계 공공 서비스 부문 전체 근무 시간의 42%가 생성형 AI를 통해 보완되거나 자동화될 수 있는 범위에 해당하며, 이는 생성형 AI의 혁신적인 잠재력을 보여줍니다.
또한, McKinsey는 생성형 AI가 공공 부문과 인접 산업 전반의 생산성을 연간 최대 4,800억 달러까지 높일 수 있을 것으로 추산합니다. 그러나 여전히 해결해야 할 과제가 있습니다. Deloitte에 따르면 정부 기관의 80%가 아직 디지털 성숙도의 초기 단계에 머물러 있어, AI의 이점을 온전히 실현하려면 신중한 도입이 필요합니다.
이 글에서는 공공 부문 기관에 가장 큰 영향을 미치는 AI 활용 사례와 검색 증강 생성(RAG) 같은 첨단 AI 기술의 역할, 그리고 이에 수반되는 과제를 해결하는 데 필요한 핵심 솔루션을 살펴봅니다.
공공 부문의 주요 AI 활용 사례
AI는 공공 부문 조직에 수많은 이점을 제공할 것으로 기대됩니다. 주요 이점은 다음과 같습니다:
- 더 나은 시민 경험: AI 기술은 문의에 더 빠르고 개인화된 답변을 제공함으로써 정부가 시민과 소통하는 방식을 혁신할 잠재력이 있습니다. 예를 들어 싱가포르의 가상 지능형 채팅 도우미(VICA)는 대화형 AI 플랫폼이 정부 기관의 시민 문의 대응을 어떻게 더 효과적으로 지원할 수 있는지 보여줍니다. 이와 마찬가지로 AI 번역 서비스는 뉴저지주에서 실업보험 신청자의 접근성을 개선하기 위해 도입된 사례처럼 언어 장벽을 해소할 수 있는 막대한 잠재력을 보여줍니다. 이러한 기술은 필수적인 정부 서비스에 대한 접근을 간소화하고 형평성을 높이는 동시에 대기 시간을 줄이고 언어와 같은 구조적 장벽을 해소할 수 있습니다.
- 사기 탐지 및 위험 완화: 사기는 복지 프로그램부터 세금 신고 시스템에 이르기까지 공공 서비스 전반에서 여전히 중대한 과제로 남아 있습니다. AI를 활용해 사기 탐지를 선제적으로 강화할 수 있는 잠재력은 매우 큽니다. 실시간 모니터링, 행동 분석, 이상 징후 탐지를 활용하면 AI는 기존 방식보다 오류를 줄이고 의심스러운 거래를 더욱 효과적으로 식별할 수 있습니다. AI 시스템은 진화하는 범죄 수법보다 빠르게 적응함으로써 공공 자금을 보호하고 프로그램의 건전성을 보장하는 데 핵심적인 역할을 할 수 있으며, 특히 재정 지원 및 사회복지 프로그램처럼 처리량이 많은 분야에서 그 효과가 큽니다.
- 운영 및 효율성 개선: AI는 이미 다양한 방식으로 정부 업무의 효율성을 높일 수 있음을 보여주고 있습니다. 예를 들어, 미국 연방 기관들은 ChatGPT Gov와 같은 대규모 언어 모델을 활용해 검색 엔진과 채팅 시스템 등의 내부 도구를 구축함으로써 업무 흐름을 간소화하고 직원들이 정보에 더 빠르게 접근할 수 있도록 지원하고 있습니다. 또한 멤피스에서는 AI 영상 기술을 탑재한 시 소유 트럭을 활용해 기반 시설의 상태를 점검하고 보수가 필요한 부분의 우선순위를 정하는 시범 사업을 진행하고 있습니다. 한편, 미국 국립표준기술연구소의 Dioptra와 같은 도구를 통해 미국 정부 기관은 AI 모델의 신뢰성을 검증하고 엄격한 기준을 충족하는지 확인할 수 있습니다. 이러한 사례는 AI가 일상적인 업무를 자동화하고 기반 시설 관리를 개선하며 공공 자금이 더욱 효율적으로 사용되도록 할 수 있음을 보여줍니다.
- 데이터 기반 의사 결정 및 핵심 계획: AI는 공공 부문 리더들이 운영 및 전략 측면에서 더 현명한 결정을 내릴 수 있도록 지원하는 데에도 상당한 잠재력을 지니고 있습니다. 예를 들어 공공 의료 기관에서는 AI를 활용해 환자 기록을 분석하고, 신약 임상시험을 가속화하며, 유전체 연구를 통해 개인 맞춤형 의료 서비스를 제공할 수 있습니다. 또한 도시 계획 담당자는 AI를 활용해 인구 추세를 평가하고, 인프라 병목 현상을 파악하며, 수요 변화에 따라 자원을 탄력적으로 배분할 수 있습니다. 이러한 활용 방안은 아직 여러 분야에서 완전히 실현되지는 않았지만, AI가 정부의 다양한 핵심 기능 전반에서 계획 수립과 의사 결정을 어떻게 개선할 수 있는지를 보여줍니다.
공공 부문 서비스에서 RAG와 같은 핵심 AI 기술의 역할
공공 부문 기관들이 시민 경험을 개선하고, 사기를 방지하며, 운영을 간소화하고, 더 현명한 의사결정을 지원하기 위해 AI 도입을 확대함에 따라 검색 증강 생성(RAG)과 같은 첨단 기술이 필수 요소로 자리 잡고 있습니다.
“공공기관은 RAG와 같은 첨단 기술을 도입하고 신뢰할 수 있는 솔루션 제공업체와 협력함으로써 윤리적이고 안전한 구현을 보장하는 동시에 AI 도입을 가속화할 수 있습니다.”
RAG는 정보 검색과 자연어 생성의 강점을 결합하여 정확하면서도 맥락에 부합하는 결과를 제공합니다. 예를 들어, RAG가 통합된 대국민 가상 비서는 정부 데이터베이스의 실시간 데이터를 활용해 개인 맞춤형으로 정확하게 답변할 수 있습니다. 이러한 시스템은 일반적인 검색 결과를 제공하는 데 그치지 않고, 복지 혜택부터 유권자 등록 세부 정보에 이르기까지 시민들의 다양한 문의에 의미 있고 맥락에 맞는 방식으로 도움을 줄 수 있습니다.
또한 RAG는 시민과의 직접적인 상호작용을 넘어 다양한 분야에서 유용하게 활용될 수 있습니다. 문서 검색과 감사 준비를 자동화하여 규정 준수를 지원함으로써 공공기관이 규제 요건에 더욱 효과적으로 대응할 수 있도록 합니다. 서로 다른 시스템의 데이터를 일관되고 실행 가능한 결과물로 통합하는 RAG는 정부 운영의 효율성과 책임성을 모두 향상할 새로운 가능성을 열어 줍니다.
적합한 AI 솔루션으로 RAG의 과제 해결
RAG와 같은 기술은 엄청난 잠재력을 지니고 있지만, 공공 부문에 도입할 때는 데이터 보안 우려, 성능 병목 현상, 규제 장벽 등의 과제가 따릅니다. 적절한 기술 솔루션을 활용하면 이러한 위험을 완화하고 AI를 원활하게 도입할 수 있습니다. 몇 가지 예를 소개합니다.
성능 및 트래픽 관리:
솔루션: 부하 분산. 정부의 AI 시스템은 특히 위기 상황이나 세금 신고 기한과 같은 사용량이 집중되는 시기에 막대한 트래픽을 처리해야 합니다. 부하 분산 기술을 구현하면 수요가 많은 워크로드를 여러 시스템에 분산하고 주요 작업 중 지연 시간을 줄여 원활한 성능을 보장할 수 있습니다.
제한된 데이터 노출:
솔루션: 애플리케이션 보안. 정부는 의료 기록부터 금융 정보에 이르기까지 방대한 양의 민감한 시민 데이터를 관리합니다. 다음과 같은 고급 보안 솔루션은 API 보안 도구 또는 AI 게이트웨이 안전한 AI 운영을 지원하는 동시에 이러한 데이터의 기밀성과 무결성을 보장하는 데 매우 중요합니다.
규정 준수 및 규제 관련 과제:
솔루션: 로깅 및 보고. AI 기능이 강화된 고급 로깅 도구는 데이터 액세스 및 출력 생성을 비롯한 AI 활동의 세부 정보를 기록하여 명확한 감사 추적 기록을 생성할 수 있습니다. 이러한 기능은 규정 준수 프로세스를 간소화하고 규제 감사 시 책임성을 입증합니다.
정부의 책임 있는 AI를 위한 길을 열다
AI는 생산성과 운영 효율성을 높이고 대국민 서비스를 개선함으로써 공공 부문을 혁신할 잠재력을 지니고 있습니다. 대화형 AI 도구를 활용해 서비스 제공 방식을 혁신하는 것부터 인프라 프로젝트 계획에 고급 분석을 적용하는 것까지, 정부 기관은 AI를 신중하게 활용함으로써 막대한 이점을 얻을 수 있습니다. 그러나 이러한 잠재력을 실현하려면 확장 가능한 인프라 구축, 데이터 보안 강화, 엄격한 규정 준수 등 주요 과제를 해결해야 합니다.
공공기관은 RAG와 같은 첨단 기술을 도입하고 신뢰할 수 있는 솔루션 제공업체와 협력함으로써 윤리적이고 안전한 구현을 보장하는 동시에 AI 도입을 가속화할 수 있습니다. AI가 계속 발전함에 따라, 거버넌스 분야에서 AI가 가져올 혁신적인 변화는 시민과 사회에 의미 있는 성과를 창출할 것입니다.
최신 AI 앱에 최첨단 솔루션이 필요한 이유를 여기에서 자세히 알아보세요. 또한 4월 8일부터 10일까지 워싱턴 D.C.에서 열리는 F5의 AppWorld 공공 부문 심포지엄에 등록하세요.
작성자 소개

관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.