글로벌 클라우드 제공업체가 F5를 통해 데이터 전송을 개선하는 방법

Hunter Smit제품 마케팅 수석 매니저 | F5

오브젝트 스토리지는 데이터 센터에서 가장 많은 요청을 처리하는 서비스가 아니라, 데이터를 경제적이고 안정적으로 보관할 수 있는 공간으로 설계되었습니다. AI 시대 이전에는 백업, 아카이브, 미디어, 애플리케이션 자산 등 오브젝트 스토리지로 유입되는 트래픽의 부하가 크지 않았기 때문에 이러한 차이가 별로 중요하지 않았습니다. 하지만 모델 학습, 미세 조정, 검색 증강 생성(RAG) 워크로드가 등장하면서 읽기/쓰기 패턴은 간헐적으로 데이터를 가져오는 방식에서 지속적으로 처리 용량을 포화시키는 방식으로 바뀌었습니다.

이러한 변화는 경제성 문제를 야기합니다. GPU 클러스터는 인프라 자산 중 가장 고가일 가능성이 크지만, 데이터를 기다리는 동안에는 아무런 가치도 창출하지 못합니다. 스토리지 경로에서 발생하는 모든 지연은 운영 중인 거의 모든 자원보다 시간당 비용이 높은 하드웨어 전체에 걸쳐 비용으로 누적됩니다. 즉, 계층 간 중요도가 역전된 것입니다. 이제 스토리지 앞단의 전송 계층이 가장 비싼 컴퓨팅 자원의 투자 수익을 좌우하며, 이 경로는 더 이상 단순한 기반 설비가 아니라 그 자체로 하나의 제품이라 할 수 있습니다.

한 하이퍼스케일 스토리지 운영업체의 대응 방식

F5의 고객사 중 하나인 한 글로벌 클라우드 제공업체는 수십 개의 데이터 센터에서 S3 호환 오브젝트 스토리지 서비스를 운영하고 있습니다. 이 서비스는 고객의 비정형 데이터를 보관하는 주 저장소이자, 점차 고객의 모델 학습 파이프라인에 데이터를 공급하는 기반으로 활용되고 있습니다. 모든 읽기 및 쓰기 요청은 인덱싱 노드나 스토리지 노드에 도달하기 전에 로드 밸런싱 계층을 거치는데, Citrix NetScaler 어플라이언스로 구축된 이 계층이 병목 지점이 되었습니다.

요구 사항 자체는 특별할 것이 없었습니다. 다만 그 규모에서 이를 충족하는 데 드는 비용 때문에 평범한 요구 사항도 감당하기 어려운 과제가 되었습니다. 이 공급자는 회선 속도로 TLS 연결을 종료한 뒤 다시 암호화하고, S3 버킷 이름을 기준으로 레이어 7에서 라우팅하며, 액티브-액티브 클러스터 전반에 걸쳐 속도 제한을 일관되게 적용해야 했습니다. 서비스 수준의 전역 제한과 버킷별 제한을 모두 적용해 특정 테넌트의 수집 작업이 다른 모든 테넌트의 리소스를 고갈시키지 않도록 해야 했습니다. 또한 여러 사이트에 걸친 글로벌 서버 부하 분산과 규제 대상 테넌트를 위한 FIPS 지원도 필요했습니다. 결국 멀티테넌트 환경의 공정성은 전송 계층의 정책 문제입니다. 트래픽이 스토리지 노드에 도달할 때쯤이면 이미 피해가 발생한 뒤이기 때문입니다.

이 공급자는 기존 애플리케이션 전송 컨트롤러(ADC) 인프라를 F5 BIG-IP 로 교체하여 F5 rSeries. 에 배포했습니다. TLS는 회선 속도로 종료된 후 다시 암호화됩니다. 요청은 S3 버킷 이름을 기준으로 레이어 7에서 라우팅되며, 이제 버킷 수준 정책은 전체 장비에 걸쳐 중복 구성하는 대신 한 곳에서 정의됩니다. 속도 제한도 한 번만 정의하면 장비별로 수동 조정할 필요 없이 클러스터 전체에 일관되게 적용됩니다. 글로벌 서버 부하 분산은 사이트 간 트래픽을 분산하며, 규제 대상 테넌트에는 FIPS 적용이 유지됩니다.

정책 구현 방식만큼이나 하드웨어도 크게 달라졌습니다. 새로운 인프라는 물리적 설치 공간을 80% 줄이면서도 정격 처리량은 2.4배로 높였고, 정격 기가비트당 전력 소비량은 약 5분의 1로 낮췄으며, 패치와 인증 및 문제 해결이 필요한 장치도 222대 줄였습니다. 일반적으로 여유 용량을 확보하려면 데이터 센터에서 가장 부족한 두 자원인 전력과 랙 공간을 추가로 투입해야 합니다. 하지만 이번에는 두 자원의 사용량을 모두 줄이면서 여유 용량까지 확보했기 때문에, 회수된 용량은 추가 구매가 아니라 필요에 따라 활용할 수 있는 선택지가 되었습니다. AI 용량을 전력과 공간으로 확보해야 하는 시설에서 이 공급자는 이제 두 자원을 모두 더 많이 보유하게 되었으며, 이를 어디에 사용할지 미리 결정할 필요도 없습니다.

이것이 F5가 말하는 AI 데이터 전송입니다. 스토리지와 컴퓨팅 사이의 경로는 하나의 경계이며, 여기에 제어 지점을 배치해야 연결성, 정책 및 전송 복원력을 강제할 수 있습니다. 즉, 이 경로를 스토리지 어레이에 사후적으로 덧붙이는 요소가 아니라, 고유한 성능, 보안 및 거버넌스 요구 사항을 갖도록 설계된 제어 플레인과 데이터 플레인으로 다뤄야 한다는 의미입니다.

모델을 직접 학습시키지 않더라도 이것이 중요한 이유

이 고객의 상황에서 머신 러닝이나 최첨단 모델 학습에만 해당하는 요소는 거의 없으며, 바로 그것이 핵심입니다. S3는 HTTP를 기반으로 작동하므로, F5가 지난 30년간 웹 트래픽을 위해 구축해 온 모든 기술과 원칙은 지능형 상태 인식 부하 분산과 프로토콜 검사부터 암호화 오프로딩 및 테넌트별 속도 제한에 이르기까지, 성능이 뛰어난 프록시를 오브젝트 스토리지 앞단에 배치하는 즉시 그대로 적용됩니다. 학습 파이프라인을 안정적으로 유지하면서 처리 용량을 최대한 활용하게 해 주는 동일한 프런트 도어가 백업 시간을 예측 가능하게 하고, 분석 쿼리를 안정적으로 처리하며, 과도한 트래픽을 유발하는 애플리케이션 때문에 다른 모든 사용자의 스토리지 성능이 저하되는 것도 방지합니다. AI 데이터 전송은 마침내 이 프런트 도어의 중요성을 더 이상 외면할 수 없게 만든 워크로드입니다.

스토리지를 담당하는 사람에게 물어볼 세 가지 질문

조직의 스토리지 전략을 평가할 때 고려해야 할 세 가지 질문은 다음과 같습니다:

1. 스토리지 노드의 성능이 저하되면 무엇이 트래픽을 우회시키며, 얼마나 신속하게 이루어집니까? 클라이언트가 재시도한다는 것이 답이라면, 전송 계층이 있는 것이 아니라 요행에 기대는 전송 아키텍처를 갖고 있는 것입니다.
2. 스토리지 클러스터 자체를 건드리지 않고 단일 테넌트나 버킷의 요청 속도를 제한할 수 있습니까? 그렇게 할 수 없다면 공정성 정책은 권고 사항에 불과합니다.
3. 스토리지 교체 예산 중 진입점이 그대로 유지된다는 가정하에 책정된 비중은 얼마나 됩니까? 이 제공업체는 개선의 여지가 숨어 있던 곳이 그 뒤의 스토리지가 아니라 전송 계층이라는 사실을 발견했습니다.

핵심은 용량과 데이터 전달은 서로 다른 차원의 결정이라는 점입니다. 용량은 구매하는 것이지만, 데이터 전달은 설계하는 것입니다. 데이터 파이프라인이 비즈니스에서 가장 중요한 워크로드로 자리 잡아감에 따라, 앞서 나가는 팀들은 스토리지 자체에 늘 적용해 온 것과 동일한 수준의 엄격함으로 스토리지에 이르는 경로를 다루고 있습니다.

AI에 대한 F5의 노력은 여기서 멈추지 않습니다. F5가 어디서나 AI 앱을 안전하게 보호하고 제공하는 방법을 알아보세요.

작성자 소개

Hunter Smit제품 마케팅 수석 매니저 | F5

Hunter Smit은 F5에서 솔루션 및 전략 부문 제품 마케팅을 담당하는 시니어 매니저입니다. AI 인프라와 애플리케이션 보안을 비롯한 F5 포트폴리오 전반의 솔루션 마케팅을 이끌고 있으며, F5의 신흥 AI 데이터 전송 시장 진출을 주도하고 있습니다. Hunter는 Whitworth University 경영대학 자문위원회 위원이며, 제품 마케팅 겸임 강사로도 활동했습니다. Whitworth University에서 경영학 석사(MBA)와 경영학 학사 학위를 취득했습니다.

Hunter Smit의 다른 블로그 게시물