AI를 배포할 때 가장 큰 과제는 핵심 요소인 데이터, AI 모델, 인프라가 여러 환경에 분산되어 있는 경우가 많다는 점입니다. 기업 데이터는 엣지 디바이스와 엣지 로케이션부터 데이터 센터 코어에 이르기까지 곳곳에 축적되는 반면, GPU와 텐서 처리 장치(TPU)를 비롯한 컴퓨팅 리소스는 대부분 클라우드에 있습니다. 게다가 데이터 주권법으로 인해 AI 지원에 필요한 데이터가 특정 지역에 묶여 있는 경우도 있어 상황은 더욱 복잡해집니다.
이러한 과제에도 불구하고 약 4분의 3에 해당하는 조직(74%)은 AI 배포 환경으로 하이브리드 멀티클라우드를 선호합니다. Google Cloud 연구에 따르면 여러 클라우드와 온프레미스 환경을 연결하려면 클라우드 공급업체 전반의 네트워킹 도구를 수동으로 구성하고 조정해야 하는 막대한 작업부터 디지털 환경 전반의 AI 모델과 저장소 간 원활한 데이터 마이그레이션 지원에 이르기까지 여러 과제를 해결해야 합니다. 또한 조직은 수많은 API 연결과 환경을 거쳐 이동하는 데이터를 보호해야 합니다.
AI 지원 하이브리드 멀티클라우드 토폴로지 계획
하이브리드 멀티클라우드 AI를 성공적으로 구현하려면 네 가지 핵심 원칙이 필요합니다. 조직에서 도입 계획을 수립하고 주요 기능을 구체화하기 시작할 때 다음과 같은 역량이 필요합니다:
- 다양하게 분산된 환경 전반에 걸쳐 안전한 고성능 연결을 자동으로 구축합니다. 자동화는 확장성의 핵심이므로 수작업이 적을수록 좋습니다.
- AI의 가변적인 처리 요구 사항을 이해하고 상태 확인을 통해 서비스 가용성을 검증하는 지능형 트래픽 라우팅을 적용합니다.
- 클라우드, 온프레미스 및 엣지 환경 전반에 보안 정책을 일관되게 적용하는 동시에 모델 조작 및 자동화된 악용과 같은 AI 위협 벡터로부터 보호합니다.
- 단일 대시보드에서 가시성과 제어를 통합하고, 엔드투엔드 텔레메트리를 활용하여 문제 해결 및 최적화 작업을 지원합니다.
멀티클라우드 토폴로지에서 이러한 기능을 활성화하면 클라우드 비용을 효과적으로 관리하고 새로운 위협으로부터 비즈니스를 보호할 수 있습니다. 또한 클라우드와 엣지 간의 경계를 넘어 필요한 곳 어디로든 데이터를 이동할 수 있습니다. 이러한 데이터 이동성 덕분에 검색 증강 생성(RAG)을 더 쉽게 배포하여 AI 모델의 관련성을 높이고 잠재적인 환각 현상을 줄일 수 있습니다.
이미 탄탄한 기반이 마련되어 있으므로, 이를 활용할 수 있습니다
멀티클라우드 AI 여정을 시작하는 조직은 처음부터 모든 것을 구축할 필요가 없습니다. Google Cloud가 기반을 제공하고, F5는 특수 목적에 맞게 설계된 솔루션으로 그 가치를 확장합니다. F5 Distributed Cloud Services는 서로 분리된 클라우드-에지 네트워크와 환경의 연결을 간소화하여 필요한 곳 어디로든 데이터를 원활하게 이동할 수 있도록 지원하는 SaaS 기반 서비스입니다. 통합된 중앙 집중식 오케스트레이션 제어 기능을 통해 새로운 환경을 손쉽게 연결하고, API 엔드포인트를 자동으로 검색해 보호하며, 단일 화면에서 클라우드 공급업체와의 관계를 관리할 수 있습니다. 이 서비스 제품군에는 AI를 인식하는 트래픽 라우팅 및 속도 제한 기능이 포함되어 있어 비용 부담이 큰 GPU 및 TPU 지원 클라우드 리소스의 처리량을 극대화하고, 리소스 혼잡을 방지하며, 최종 사용자가 AI 서비스를 원활하게 이용할 수 있도록 지원합니다.
“멀티클라우드 AI 여정을 시작하는 조직은 처음부터 모든 것을 구축할 필요가 없습니다. Google Cloud가 기반을 제공하고, F5는 특화된 솔루션을 통해 그 가치를 더욱 확장합니다.”
AI 앱 및 서비스를 위한 공동 보호
연결성과 성능 문제를 극복하고 나면, 보안은 성공적인 AI 도입을 가로막을 수 있는 또 하나의 큰 장애물입니다. 사이버 범죄자와 봇은 민감한 데이터와 지식 재산(IP)을 탈취하고, 분산 서비스 거부(DDoS) 공격을 통해 AI 서비스에 대량의 요청을 보내 클라우드 비용을 증가시킴으로써 AI가 제공하는 가치를 훼손합니다.
Distributed Cloud Services는 행동 분석을 사용하여 정상 사용자와 봇을 구분하고 봇의 액세스를 차단함으로써 Google Cloud Model Armor를 강화합니다. 또한 F5 AI Guardrails를 Google Cloud와 함께 사용하여 AI 모델로 들어가고 나오는 입력과 출력을 모니터링할 수 있습니다. 이러한 솔루션을 함께 사용하면 프롬프트 인젝션 및 모델 포이즈닝 시도와 같은 모델 조작 수법을 방지하고, AI 프롬프트와 응답 모두에서 기밀 데이터와 지식 재산(IP)을 자동으로 탐지하여 삭제할 수 있습니다.
고도화된 보안 및 데이터 주권 요구사항 충족
많은 조직이 환경을 연결하고 데이터를 전송하기 위해 공용 인터넷을 사용하지만, 앞서 설명한 사이버 위협을 비롯해 통제할 수 없는 변수가 너무 많습니다. 더 나은 대안이 있습니다. F5 Global Network는 공용 인터넷에 전혀 노출되지 않으면서 AI 및 민감한 데이터에 적합하도록 설계된 고대역폭·저지연 연결을 제공하는 프라이빗 백본입니다. 또한 전 세계에 분산된 여러 접속 지점을 통해 데이터 주권 요건을 준수할 수 있도록 워크로드를 현지화할 수 있습니다.
하이브리드 멀티클라우드 AI를 간소화하고 확장하세요
멀티클라우드 AI를 구현하는 과정에서 복잡성과 보안 위협은 가장 큰 걸림돌이지만, F5와 Google Cloud는 든든한 지원군이 될 수 있습니다. 검증된 이러한 솔루션을 ‘간편 버튼’처럼 활용하여 환경이 어디에 있든 손쉽게 연결하고 안전하게 보호하세요.
자세히 알아보기: F5 및 Google Cloud.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.