오늘날 빠르게 변화하는 기술 환경에서 AI의 배포와 운영은 기업의 경쟁력을 좌우하는 핵심 요소가 되었습니다. 기업들이 AI를 활용해 의사결정과 효율성을 향상하거나 AI 기반의 차별화된 제품을 개발함에 따라, AI 팩토리가 기반 모델로 부상했습니다. AI 팩토리의 중심에는 7가지 AI 빌딩 블록 중 하나인 검색 증강 생성(RAG)이 있으며, 이를 통해 AI는 맥락을 이해하고 더욱 정확하며 시의적절한 결과를 생성할 수 있습니다.
앞서 AI 팩토리 시리즈에서 AI 팩토리를 정의했습니다 대규모·고성능 학습 및 추론 요구 사항을 충족하기 위한 스토리지, 네트워킹 및 컴퓨팅에 대한 막대한 투자로 말입니다. 이 글에서는 앞서 정의한 AI 구성 요소 중 RAG와 RAG 코퍼스 관리에 대해 살펴보겠습니다.
AI 팩토리 이해하기
기존 제조 공장과 마찬가지로 AI 팩토리는 서버, GPU, DPU, 스토리지로 정교하게 구성된 인프라를 통해 AI 결과물과 모델을 생성하도록 설계됩니다. 학습과 추론을 지원하는 AI 팩토리는 AI 애플리케이션을 대규모로 개발하는 데 필수적입니다. 여기에 RAG를 도입해 결과물의 맥락적 관련성을 높이면 AI 팩토리의 진정한 잠재력을 실현할 수 있습니다.
검색 증강 생성, 즉 RAG란 무엇인가요?
본격적으로 살펴보기에 앞서 검색 증강 생성(Retrieval-Augmented Generation)을 정의해 보겠습니다. RAG는 독점 데이터를 활용해 AI 모델을 보완하고 맥락을 인식하는 AI 결과를 제공하는 기술입니다. 애플리케이션 배포가 점점 더 분산되고 하이브리드 및 멀티클라우드 환경 전반에서 호스팅됨에 따라 기업의 데이터는 곳곳에 분산되어 있습니다. 데이터를 AI에 활용해 전략적 이점을 확보하려는 조직에는 다음과 같은 과제가 생깁니다. 대규모 언어 모델(LLM)과 같은 AI 모델의 입력을 보강하려면 관련 데이터를 어떻게 연결해야 할까요? 조직은 이 문제를 해결하고 AI 모델과 분산된 데이터 사일로 사이에 안전한 연결 통로를 구축하기 위해 RAG를 도입하고 있습니다. 이를 통해 최신 정보에 액세스할 수 있으므로 시의적절하고 맥락을 인식하며 더욱 정확한 결과를 얻을 수 있습니다. 이러한 연결이 없다면 미세 조정된 AI 모델조차 최신 정보에 액세스할 수 없습니다. 정보는 학습이 완료되는 즉시 바뀌는 경우가 많기 때문입니다.
“RAG는 독점 데이터를 통합하여 AI 모델을 보완하고 맥락을 인식하는 AI 결과물을 제공하는 AI 기술입니다.”
어떤 사례가 있을까요? 비전 기반 자율주행 차량과, 요청에 관련 맥락이 부족해 환각을 일으키거나 임의로 추론하는 대규모 언어 모델(LLM)을 예로 들 수 있습니다.
자율주행 차량이 보행자, 자전거 이용자, 다른 자동차가 있는 도로를 안전하게 주행하려면 추론 과정에 차량의 위치와 끊임없이 변화하는 주변 환경을 기반으로 한 실시간 데이터가 포함되어야 합니다. LLM의 경우 고객 지원 챗봇을 예로 들면, 변경 로그, 지식 베이스, 시스템 상태, 텔레메트리 같은 제품 정보에 지원 티켓, 구매 이력, 고객 프로필 같은 고객별 고유 정보를 결합함으로써 일반적인 LLM 응답을 유용한 결과물로 바꿀 수 있습니다.
하이브리드 및 멀티클라우드 환경은 갈수록 복잡해지고 있으며, 스토리지 배포는 서로 다른 위치에 점점 더 고립되고 있습니다. F5에서는 이러한 현상을 ‘불덩어리(ball of fire)’라고 부릅니다.
AI 팩토리를 위한 RAG
AI 팩토리 환경에서 RAG는 벡터 데이터베이스와 콘텐츠 리포지토리에서 추가 컨텍스트를 가져와 기반 AI 모델의 기본 추론 역량을 향상시키며, 이렇게 가져온 컨텍스트는 맥락이 보강된 응답을 생성하는 데 활용됩니다. AI 팩토리 내에서 RAG의 오케스트레이션 계층은 AI 모델과 증강 서비스 간의 복잡한 상호작용을 관리하여 보충 데이터가 AI 워크플로에 원활하게 통합되도록 합니다.
예를 들어 앞서 언급한 고객 지원 시나리오에서 RAG는 관련된 다양한 데이터베이스와 소스의 데이터에 액세스하여 이를 활용할 수 있습니다. 그 결과, 관련성이 매우 높은 AI 결과물을 생성할 수 있습니다. 기업은 RAG를 AI 팩토리 프레임워크에 통합함으로써 추론 응답의 품질과 적시성을 높여 더욱 효과적인 의사 결정과 운영 효율성을 실현할 수 있습니다.
성공적인 대규모 AI 인프라 구축에 필요한 7가지 AI 구성 요소 중 하나인 RAG를 강조한 F5의 AI 참조 아키텍처.
AI 팩토리를 위한 RAG 코퍼스 관리
RAG 코퍼스 관리는 RAG를 활용한 추론 제공에 필수적인 데이터 수집 및 전처리에 중점을 둡니다. 여기에는 데이터 정규화, 토큰화, 임베딩, 벡터 데이터베이스 채우기 등의 일련의 단계가 포함되며, 이를 통해 콘텐츠가 RAG 호출에 최적화된 상태로 준비되도록 합니다.
AI 팩토리에서 이 프로세스는 다양한 데이터 형식을 정규화하여 일관되고 구조화된 데이터 세트를 만드는 것부터 시작합니다. 그런 다음 임베딩을 생성해 이 데이터를 AI 모델이 쿼리할 수 있는 형식으로 변환합니다. 준비된 데이터는 벡터 데이터베이스, 지식 그래프, 콘텐츠 리포지토리에 저장되어 추론 중 실시간으로 손쉽게 검색할 수 있습니다. RAG 코퍼스 관리는 데이터를 정제하고 구조화하여 검색 가능한 상태로 유지함으로써 AI 출력의 전반적인 효과와 정확성을 높입니다. 이 프로세스는 고품질의 풍부한 맥락을 갖춘 AI 응답을 유지하려는 기업에 필수적입니다.
RAG 코퍼스 관리는 F5가 성공적인 AI 아키텍처를 위해 정의한 7가지 AI 구성 요소 중 하나입니다.
RAG는 AI 팩토리에만 적용되나요?
RAG는 AI 팩토리의 핵심 구성 요소이지만, 규모와 관계없이 모든 AI 모델 배포에 필요합니다. 기반 AI 모델(예: GPT, Llama)은 공개 정보를 바탕으로 학습되므로, 기반 모델을 배포하는 것만으로는 동일한 모델을 배포하는 다른 조직에 비해 충분한 경쟁 우위를 확보할 수 없습니다. AI 배포 규모와 관계없이 모든 조직은 RAG를 통해 독점 및 비공개 데이터를 통합하여 요청에 자체 데이터를 보완하는 것이 필수적입니다. 고객 지원 챗봇을 예로 들면, LLM 기반 지원 앱이 유용한 솔루션을 제공하려면 제품 및 고객별 정보에 액세스할 수 있어야 합니다. 모델을 학습하거나 미세 조정하더라도 더 정확한 결과를 얻으려면 끊임없이 변화하는 데이터에 액세스해야 합니다.
RAG 구현을 위한 안전한 데이터 고속도로 구축
조직이 혁신과 운영 효율성을 높이기 위해 AI에 지속적으로 투자함에 따라 AI 팩토리 내 RAG의 중요성은 아무리 강조해도 지나치지 않습니다. RAG는 상황 인식, 정확성, 적시성을 향상하여 AI 모델이 더욱 관련성 높고 신뢰할 수 있는 결과를 제공하도록 보장합니다. 데이터 사일로와 AI 팩토리를 안전하게 통합하려는 기업을 위해 F5 Distributed Cloud Network Connect 는 현대적인 데이터 고속도로를 제공합니다. 이를 통해 기업의 독점 데이터가 저장된 위치를 안전하게 연결하고, 제한된 액세스를 제공하며, 네트워킹을 간소화하고, 여러 영역과 리전에 걸쳐 데이터 스토리지와 이동성을 지원합니다.
AI에 대한 F5의 노력은 여기서 끝나지 않습니다. F5가 어디서나 AI 앱을 보호하고 제공하는 방법을 알아보세요.
AI 팩토리에 대해 더 자세히 알아보고 싶으신가요? AI 팩토리 블로그 시리즈의 다른 글도 살펴보세요:
- AI 팩토리란 무엇인가요? ›
- AI 팩토리 데이터 수집을 위한 트래픽 관리 최적화 ›
- 엣지 데이터 소스를 AI 팩토리에 최적으로 연결하기 ›
- 멀티클라우드의 확장성과 유연성으로 AI 팩토리 지원 ›
- AI 팩토리를 위한 NVIDIA BlueField DPU의 강력한 성능과 의미 ›
- AI 팩토리를 위한 API 보호: AI 보안을 위한 첫걸음 ›
- AI 팩토리를 위한 네트워크 세분화의 중요성 ›
- AI 팩토리가 만들어 내는 최첨단 현대식 앱: AI 앱 ›
작성자 소개
Hunter Smit은 F5에서 솔루션 및 전략 부문 제품 마케팅을 담당하는 시니어 매니저입니다. AI 인프라와 애플리케이션 보안을 비롯한 F5 포트폴리오 전반의 솔루션 마케팅을 이끌고 있으며, F5의 신흥 AI 데이터 전송 시장 진출을 주도하고 있습니다. Hunter는 Whitworth University 경영대학 자문위원회 위원이며, 제품 마케팅 겸임 강사로도 활동했습니다. Whitworth University에서 경영학 석사(MBA)와 경영학 학사 학위를 취득했습니다.
Hunter Smit의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.