알고 계셨나요? 조직의 94%가 여러 환경에 걸쳐 애플리케이션을 배포하고 있습니다 여기에는 퍼블릭 클라우드 인스턴스, 프라이빗 데이터 센터, 엣지 시스템의 조합이 포함됩니다. 우리는 하이브리드 멀티클라우드 시대에 살고 있으며, 그 이점을 고려하면 이는 당연한 흐름입니다. 멀티클라우드 환경에서 기업은 더 이상 특정 공급업체에 종속되지 않으며, AI를 비롯해 처리해야 하는 각 워크로드에 가장 적합한 서비스와 인스턴스 유형을 선택할 수 있습니다.
하지만 멀티클라우드 AI에는 고유한 과제가 있습니다. AI의 정확성과 효과를 유지하려면 조직은 AI에 데이터를 지속적으로 공급해야 하며, 이를 위해서는 여러 환경에 분산된 데이터 저장소를 원활하게 연결해야 합니다. 또한 AI 워크로드는 간단한 Q&A 프롬프트부터 GPU 리소스에 불균등한 부하를 주는 심층 분석이나 콘텐츠 제작에 이르기까지 매우 동적입니다.
또한 프롬프트 인젝션과 모델 탈옥 같은 기법으로 인해 AI 자체가 공격 벡터로 부상하면서 사이버 위협 환경은 더욱 복잡해졌습니다. AI는 방대한 데이터를 필요로 하는 특성상 수많은 API 연결도 활용하므로 공격 표면이 확대되고, AI에서 시작된 공격이 네트워크 내에서 측면 이동할 위험도 커집니다.
그리고 아직 멀티클라우드의 무분별한 확산 문제는 다루지도 않았습니다. 환경과 연결이 늘어나고 복잡성이 커질수록 모든 것을 관리하고 전반에 대한 가시성을 유지하기가 기하급수적으로 어려워진다는 것은 두말할 필요도 없습니다.
가치 극대화를 위한 멀티클라우드 AI 과제 극복
다행히도 이러한 과제를 해결하기 위한 검증된 방법이 있습니다. 핵심 인프라 요소를 결합해 AI를 위한 안전한 고성능 경로를 구축하는 것이 핵심입니다. 일반적인 구성은 다음과 같습니다:
- 프라이빗 연결 백본은 서로 분리된 환경을 연결할 때 공용 인터넷을 사용하는 것보다 더 나은 선택입니다. 프라이빗 백본은 통제할 수 없는 외부 요인으로부터 보호해 주는 안전하고 안정적인 연결을 제공합니다.
- 지능형 트래픽 관리는 AI를 인식하는 라우팅 지침을 적용하여 컨테이너 전반의 워크로드를 더욱 효율적으로 분산하고 고가의 GPU 리소스가 과도하게 사용되거나 충분히 활용되지 않는 것을 방지합니다.
- 통합 보안 프레임워크는 클라우드 경계 전반에 걸쳐 동일한 보호 조치(암호화, 인증 등)를 일관되게 구현합니다. 즉, 퍼블릭 클라우드 인스턴스, 프라이빗 서버, 엣지 시스템 등 모든 환경에 동일한 보안 및 개인정보 보호 정책이 적용됩니다.
- 중앙 집중식 오케스트레이션 플랫폼은 모든 요소를 하나로 통합하고 전체 환경을 처음부터 끝까지 한눈에 파악할 수 있도록 지원합니다. 이상적인 오케스트레이션 플랫폼은 모델 로드 시간, 추론 지연 시간과 같은 AI 관련 지표도 제공하여 최적화 작업을 효과적으로 추진할 수 있도록 합니다.
이러한 요건을 충족하면 멀티클라우드 AI의 이점을 극대화할 수 있습니다. 즉, 모델 학습, 미세 조정, 추론, 최적화는 물론 검색 증강 생성(RAG)과 같은 강력한 활용 사례를 지원하기 위해 필요한 곳 어디로든 데이터를 원활하고 안전하게 이동할 수 있습니다.
손쉽게 활용할 수 있는 AI 지원 멀티클라우드 인프라
물론 멀티클라우드 AI에 대한 비전을 가장 빠르게 실현하는 방법은 신뢰할 수 있는 공급업체의 검증된 솔루션을 사용하는 것입니다. F5 솔루션은 관리형 AI 모델을 위한 Amazon Bedrock이나 자체 AI 구축을 위한 Amazon SageMaker처럼 이미 사용 중일 가능성이 높은 AWS 서비스를 보완하며, 멀티클라우드 환경을 하나의 통합 인프라로 연결하는 핵심 연결 고리 역할을 합니다.
- F5 글로벌 네트워크는 퍼블릭 인터넷에 노출되지 않으면서 환경 간에 고성능의 안전한 프라이빗 연결을 제공합니다. 전 세계에 분산된 여러 접속 지점을 통해 데이터를 로컬에 유지하여 빠른 응답 시간을 보장합니다.
- F5 AI Gateway는 컨테이너화된 AI를 위한 고급 부하 분산 기능을 통해 지능형 트래픽 관리를 지원합니다. 또한 통합 보안 제어와 입력/출력 검증을 통해 프롬프트 인젝션 및 데이터 유출을 초래하는 기타 악의적인 수법으로부터 AI 모델을 보호합니다.
- F5 Distributed Cloud Services는 원클릭 배포를 통해 클라우드, 엣지 및 온프레미스 환경을 연결할 수 있는 하향식 가시성과 제어 기능을 제공합니다. 이러한 서비스를 사용하면 모든 환경에 IT 및 데이터 거버넌스 정책을 일관되게 손쉽게 적용할 수 있습니다.
NetApp 고객의 경우 F5와 AWS는 NetApp BlueXP 및 NetApp ONTAP을 비롯한 NetApp 스토리지 솔루션과도 연동되므로, 이러한 모든 통합 데이터 관리 및 마이그레이션 기능을 활용하여 멀티클라우드 AI 프로젝트를 구현하고 개선할 수 있습니다.
RAG와 엣지가 주목받고 있습니다
RAG는 조직의 독점 데이터를 활용해 도메인별 지식으로 모델의 정확도를 높이며, 이제 가장 범용적인 챗봇을 제외한 거의 모든 챗봇의 사실상 필수 요건이 되었습니다. 하지만 사용되는 데이터가 독점 데이터인 만큼 가치가 더 높고 취약성도 더 큽니다. F5 Distributed Cloud Network Connect는 안전한 레이어 3 연결과 Amazon S3 프로토콜 지원을 통해 이 데이터가 하이브리드 멀티클라우드 환경을 이동하는 동안 데이터를 보호합니다.
네트워크 엣지는 데이터가 생성되는 위치와 더 가까운 곳에서 데이터를 처리하고 추론함으로써 더 빠른 결과와 더 짧은 지연 시간을 제공하여 AI를 향상할 잠재력도 큽니다. F5 Distributed Cloud Customer Edge를 사용하면 엣지 위치를 Distributed Cloud Services에서 중앙 관리되는 모델에 더 쉽고 안전하게 연결할 수 있습니다. 또한 이 솔루션은 AI Gateway와 연동되므로 Kubernetes 기반 AI 서비스와 보안을 엣지에 도입할 수 있으며, AWS Local Zones 및 AWS Outposts와 같은 엣지 서비스와도 호환됩니다.
하이브리드 멀티클라우드 AI의 복잡성 해소
하이브리드 멀티클라우드 AI는 복잡하지만, 필요한 곳 어디에서나 수많은 데이터 저장소와 서비스를 AI 모델에서 활용하고, 반대로 AI 모델을 해당 데이터 저장소와 서비스에서 활용할 수 있게 해 주는 등 많은 이점을 제공합니다. F5와 AWS의 파트너십은 AI 특화 보안, 통합 관리 도구, 글로벌 네트워크 인프라를 통한 AI 연결성을 제공하여 멀티클라우드의 과제를 해결합니다. 이러한 솔루션을 활용하면 오늘날의 AI 경제에서 성공하는 데 필요한 안전하고 유연하며 확장 가능한 AI를 구축할 수 있습니다.
자세한 내용은 Amazon Web Services(AWS)의 F5 페이지에서 확인하세요.
또한, 제가 이전에 작성한 블로그 게시물도 꼭 확인해 보세요:
AWS에서 AI 학습을 위한 빠르고 안전한 데이터 파이프라인 구축
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.