조직에서 AI 기술 도입이 확대됨에 따라, 대규모 언어 모델(LLM)을 최신 독점 데이터로 지속적으로 업데이트하는 일이 쉽지 않다는 사실이 드러났습니다. 이에 따라 보충 데이터를 추가해 AI 추론을 강화하고 더욱 정확하고 유용한 응답을 생성하는 검색 증강 생성(RAG)이 도입되고 있습니다. 그러나 이러한 추가 데이터를 LLM에 안전하게 전달하는 것 역시 어려울 수 있으므로, 안전한 연결을 위한 솔루션이 필요합니다.
엔터프라이즈 AI의 RAG 혁명
기존 LLM은 강력하지만 학습 데이터에 제약을 받으며 조직별 고유 정보에는 접근할 수 없습니다. RAG를 활용하면 LLM이 생성 과정에서 외부 지식 소스를 조회할 수 있어, 모델의 폭넓은 지식과 조직의 독점 데이터를 모두 반영한 결과를 생성할 수 있습니다.
하지만 대부분의 조직이 멀티클라우드 및 하이브리드 IT 환경으로 전환하면서 데이터가 여러 소스에 분산되는 경우가 많습니다. 이러한 분산으로 인해 조직은 대규모 환경에서도 성능과 비용 효율성을 유지하는 동시에 모든 관련 데이터 소스에 대한 안전한 액세스를 보장해야 하므로 RAG를 효과적으로 구현하기가 어렵습니다. 이 문제를 해결하려면 모든 소스의 데이터 저장소를 LLM과 안전하게 연결할 수단이 필요합니다. 이에 F5, NetApp, Google Cloud가 협력하여 솔루션을 제공합니다.
대규모 언어 모델에서 관련 데이터를 가져오는 검색기를 포함하고, 이를 필요한 컨텍스트와 결합하여 정확하고 맥락에 부합하는 정보를 생성하는 기본적인 RAG 워크플로입니다.
데이터 액세스를 위한 통합 접근 방식
F5 Distributed Cloud Services에는 클라우드 및 온프레미스 환경 전반에서 애플리케이션과 데이터를 연결하는 안전한 멀티클라우드 네트워킹이 포함됩니다. F5 Global Network의 프라이빗 백본을 사용하는 F5 Distributed Cloud Network Connect는 NetApp과 연동하여 필요한 시간과 장소에 데이터를 빠르고 안전하게 이동하고 저장합니다.
특히 RAG의 경우, Distributed Cloud Network Connect는 클라우드 또는 온프레미스의 NetApp 스토리지를 LLM에 연결합니다. 여기에는 Google Cloud의 Vertex AI 플랫폼도 포함되며, 이를 통해 안전하고 빠르며 관련성 높은 추론을 지원합니다. 이 솔루션은 하이브리드 및 멀티클라우드 환경 전반에 분산된 데이터 소스에 원활하게 액세스할 수 있는 프레임워크를 제공합니다.
F5의 안전한 멀티클라우드 네트워킹 기능은 기반 역할을 하며, 중앙 집중식 가시성과 오케스트레이션을 유지하면서 서로 다른 환경 전반에서 효율적이고 안전하게 데이터에 액세스할 수 있도록 지원합니다. 조직은 Distributed Cloud Network Connect를 Google Cloud NetApp Volumes, Google Cloud용 NetApp Cloud Volumes ONTAP, 및 기타 NetApp 데이터 스토리지 시스템과 함께 사용하여 AI 워크로드에 필요한 안전한 연결성과 빠른 성능을 확보할 수 있습니다.
Google Cloud의 Vertex AI 플랫폼은 이러한 통합 데이터 액세스를 활용하여 컨텍스트 증강 LLM 애플리케이션을 개발할 때 RAG를 용이하게 함으로써 솔루션을 완성합니다. 이 플랫폼의 효율적인 리소스 활용과 안전한 AI 인프라는 조직이 AI 운영을 확장하면서도 비용 효율성을 유지할 수 있도록 지원합니다.
이 공동 솔루션은 다음과 같은 여러 이점을 제공합니다:
- 보안 강화: F5의 멀티클라우드 네트워킹에는 웹 애플리케이션 방화벽, 봇 방어, API 보호 등의 보안 기능이 기본으로 탑재되어 있으며, 일관된 정책 적용을 통해 복잡한 하이브리드 환경에서도 독점 데이터와 AI 모델을 보호합니다.
- 암호화된 네트워킹: AI 모델과 NetApp 스토리지(온프레미스 및 클라우드 기반 모두) 간의 레이어 3 연결은 전송 중인 민감한 데이터를 보호하기 위해 암호화됩니다.
- 최적화된 성능: 전 세계에 위치한 접속 지점을 기반으로 F5 글로벌 네트워크는 지연 시간을 최소화하고 전송 속도를 제어할 수 있도록 지원하여 AI 애플리케이션의 응답성을 높입니다.
- 간소화된 멀티클라우드 운영: 조직은 F5 Distributed Cloud Console을 통해 클라우드부터 온프레미스와 엣지에 이르기까지 보안 및 네트워킹을 관리하고, 복잡한 멀티클라우드 네트워킹은 Distributed Cloud Network Connect로 처리할 수 있습니다.
- 도구 합리화: RAG 및 AI를 지원하는 데 필요한 보안 및 네트워킹 도구의 수를 줄입니다.
F5, NetApp, Google Cloud는 고객이 하이브리드 및 멀티클라우드 환경 전반에서 RAG를 안전하게 구현할 수 있도록 지원하기 위해 협력하고 있습니다.
AI 생산성 향상을 위한 간소화된 경로
조직은 기존에 투자한 F5, NetApp 및 Google Cloud 인프라를 활용해 안전한 RAG 솔루션을 구축할 수 있으므로, AI 역량을 강화하려는 기업에 실용적인 선택지가 됩니다. 이 파트너십을 통해 조직은 보안과 통제력을 유지하면서 데이터를 활용해 AI 기반 인사이트를 얻을 수 있습니다. RAG 애플리케이션의 데이터 액세스를 간소화함으로써 조직은 복잡한 인프라 관리보다 AI를 통한 가치 창출에 집중할 수 있습니다.
F5 Distributed Cloud 서비스는 Google Cloud Marketplace에서 이용할 수 있습니다.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.