F5와 Scality: 대규모 AI 데이터 전송 성능 향상

F5와 Scality: AI 데이터 전송 및 AI 파이프라인 최적화

인공지능의 부상은 데이터 관리 및 처리 방식에 혁신을 가져왔으며, 이에 따라 다양한 산업의 기업들은 AI 성능을 극대화하도록 설계된 견고한 인프라에 대규모로 투자하고 있습니다.

AI 파이프라인 최적화의 새로운 물결을 선도하는 F5와 Scality는 확장성, 복원력 및 보안과 관련된 과제를 해결하는 최첨단 솔루션을 제공합니다. 페타바이트 규모의 데이터를 호스팅하고 AI 애플리케이션의 트래픽 처리를 관리하는 양사의 혁신 기술은 AI 파이프라인 전반에서 데이터가 원활하게 전달되고 처리되도록 보장합니다.

여기에서는 “대규모 AI 데이터 전송 강화: F5와 Scality가 성능과 보안을 혁신하는 방법” 웨비나의 핵심 인사이트를 요약하고, 양사의 기술이 어떻게 연계되어 AI 파이프라인을 최적화하는지 자세히 살펴봅니다. 또한 양사의 솔루션이 중요한 이유를 짚어보고, 조직이 이를 활용해 AI 데이터 전송 워크플로를 효율적으로 확장하는 방법을 알아봅니다.

AI 파이프라인 최적화에서 로드 밸런싱의 중요성 이해

웨비나에서 Scality의 세일즈 엔지니어링 디렉터인 Chris Harvey는 AI 워크플로를 최적화하는 데 로드 밸런싱이 수행하는 핵심적인 역할을 강조했습니다. AI 워크로드는 중단 없이 높은 처리량으로 데이터를 전송하는 데 크게 의존합니다. S3(Amazon Simple Storage Service)는 분석, 백업, 추론 등의 애플리케이션을 지원하며 AI 프로세스의 사실상 표준 데이터 프로토콜로 자리 잡았습니다.

그러나 GPU 집약적인 AI 애플리케이션이 요구하는 막대한 동시 처리량과 대역폭에 더해, 추론 및 검색 증강 생성(RAG)에서 발생하는 동적 요청까지 처리하려면 정교한 트래픽 관리 메커니즘이 필요합니다. 바로 이 지점에서 F5의 로드 밸런싱 솔루션이 진가를 발휘합니다. 응답하지 않는 엔드포인트로 트래픽을 보낼 수 있는 DNS 라운드 로빈 기법에 의존하는 기존 시스템과 달리, F5는 상태 확인 프로브와 지능형 알고리즘을 활용하여 장애가 발생한 커넥터가 운영을 방해하지 않도록 합니다.

핵심 요점:

• 표준 프로토콜로서의 S3: 이제 S3는 AI 워크로드를 위한 범용 프로토콜로 자리 잡았으며, 수많은 클라이언트가 동시에 접속하는 환경에서 데이터 흐름을 최적화하는 데 핵심적인 역할을 합니다.
• 상태 프로브: F5는 활성 상태 프로브를 사용하여 장애가 발생한 커넥터를 워크플로에서 자동으로 제거합니다.
• 부하 인식 분산: 지능형 부하 분산 알고리즘으로 병목 현상을 방지하고 서버 활용도를 최적화합니다.

AI 파이프라인의 과제와 Scality의 자율형 데이터 인프라(ADI)

웨비나에서는 AI 데이터 전송 중단, 대규모 환경에서의 안정성 보장, 추론 중 동적 데이터 액세스 등 AI 파이프라인에서 흔히 발생하는 문제를 살펴보았습니다. Scality의 ADI는 F5 BIG-IP 솔루션과 결합하여 KV 캐시를 오프로딩하고 GPUDirect급 처리량을 지원함으로써 이러한 문제를 해결합니다.
AI 파이프라인 관리에서 관찰되는 주요 장애 요인 중 하나는 GPU 유휴 시간입니다. 클라우드 및 온프레미스 모델이 재무적 이점을 창출하려면 지속적인 데이터 수집이 필요하므로, 유휴 GPU로는 투자 수익률(ROI)을 달성할 수 없습니다. Scality는 다음과 같은 방식으로 이러한 문제를 해결합니다:

• 동적 데이터 요청: GPU 호스트는 학습 데이터를 미리 준비하거나 추론 중에 필요한 파일을 동적으로 가져옵니다.
  
• 직접 메모리 액세스(RDMA): 초당 수 테라바이트에 달하는 더 빠른 데이터 스트림을 지원하여 GPU가 최적으로 활용되도록 합니다.

AI 파이프라인에서 다운타임을 절대 허용할 수 없는 이유

AI 애플리케이션은 사소한 장애에도 민감합니다. 장시간 실행되는 분석 작업은 수일 또는 수주 동안 이어지는 경우가 많으며, 중단이 발생하면 많은 비용을 들여 작업을 다시 시작해야 할 수 있습니다. 또한 일시적인 엔드포인트 장애는 실시간 RAG 프로세스를 중단시켜 중요한 비즈니스 결과물을 위태롭게 할 수 있습니다.
F5의 솔루션은 동적 부하 분산 기술과 서비스 보장 메커니즘을 적용하여 ‘상시 가동’ 가용성을 보장합니다:

• TLS 오프로딩: 중앙 집중식 인증서 관리를 지원하는 동시에 S3 커넥터의 CPU 대역폭을 절약합니다.
  
• 배포 토폴로지: 글로벌 서버 부하 분산(GSLB)을 사용하는 단일 사이트 및 다중 사이트 배포로 복원력을 보장합니다.

최적화된 파이프라인을 위한 Scality-F5 통합: 아키텍처 개요

Scality ADI와 F5 BIG-IP의 시너지는 AI 팩토리 아키텍처의 핵심입니다. 지능형 리소스 관리 기능을 갖춘 이 설계는 안전한 API 확장, 워크로드 분산, 효율적인 AI 데이터 전송을 우선시합니다. 특히 다음 사항에 중점을 둡니다:

• 상태 저장형 API: 에이전틱 AI 및 검색 메커니즘과 같은 실시간 애플리케이션을 위한 리소스 할당을 관리합니다.
• 운영 QoS 개선 효과: F5는 중앙 집중식 제어를 통해 테넌트 분리, 트래픽 제한, 서비스 계층 정책 적용을 지원하고, 노이즈 네이버 문제를 해결하여 시스템이 최적의 상태로 작동하도록 유지합니다.

최적화된 성능, 확장성 및 보안: 최첨단 혁신

대규모 멀티 PB 인프라를 관리하는 조직에는 성능 최적화가 필수적입니다. F5의 통합 솔루션은 AI 파이프라인 최적화에 특화된 하드웨어 가속 기능을 제공합니다. F5의 독자적인 FPGA 설계와 Scality ADI의 무상태 S3 커넥터 풀을 결합함으로써 병목 현상 없이 처리량을 유지하는 고효율 시스템을 구축할 수 있습니다.

또한 F5는 포스트 양자 암호(PQC) 표준을 비롯한 최첨단 보안 조치를 활용하여, 조직이 향후 양자 기반 복호화 기술로 인해 발생할 수 있는 잠재적인 데이터 취약성에 선제적으로 대비할 수 있도록 지원합니다.

성능 주요 사항:

• F5의 바이패스 기능은 확장성을 유지하면서 대량의 AI 데이터를 전송할 수 있도록 지원합니다.
  
• 테넌트별 구성을 통해 인프라를 공유하는 애플리케이션 또는 엔터티 간에 원활한 격리를 보장합니다.

AI 파이프라인 최적화는 개별적인 문제 해결책을 적용하기보다는 통합된 확장형 솔루션을 활용하는 데 더 중점을 둡니다. F5와 Scality의 웨비나는 복원력, 확장성, 보안을 유지하면서 자사의 기술로 역동적인 AI 워크플로가 제기하는 과제를 해결하는 방법을 보여줍니다.

AI가 계속해서 산업을 혁신함에 따라, 조직은 갈수록 복잡해지는 환경과 위협에 대비해 인프라의 미래 경쟁력을 확보할 수 있도록 F5와 Scality가 제공하는 것과 같은 솔루션에 투자해야 합니다. 로드 밸런싱, 데이터 전송, 인프라 최적화에 대한 이들의 혁신적인 접근 방식은 현대적인 AI 파이프라인을 효과적으로 관리하기 위한 새로운 기준을 제시합니다.

AI 파이프라인을 최적화하는 방법에 대한 더 많은 인사이트와 정보를 확인하려면 위 양식을 통해 전체 웨비나를 온디맨드로 시청하세요.