NVIDIA BlueField DPU에 배포된 BIG-IP Next for Kubernetes

Name: NVIDIA BlueField DPU에 배포된 BIG-IP Next for Kubernetes
Brand: F5

대규모 AI 인프라를 위한 고성능 트래픽 관리 및 보안을 제공하여 AI 애플리케이션의 효율성, 제어력, 성능을 한층 향상하세요.

멀티테넌시, 가속 및 관측 가능성 제공

NVIDIA BlueField DPU에 배포된 BIG-IP Next for Kubernetes는 기업과 서비스 제공업체에 단일 제어 지점을 제공하여 AI 클라우드 인프라 활용도를 극대화하고 데이터 수집, 모델 학습, 추론, RAG 및 에이전틱 AI를 위한 AI 트래픽을 가속화합니다.

효율성을 극대화하고 비용을 절감하세요

극대화하고 AI 인프라 투자를 극대화하고 클라우드 규모의 AI 인프라를 위한 고성능 트래픽 관리 및 부하 분산을 제공하여 총소유비용(TCO)을 절감하세요.

AI 클라우드 제공업체를 위한 멀티테넌시 지원

AI 애플리케이션을 위한 안전한 Kubernetes 기반 멀티테넌시와 네트워크 격리를 지원하여 여러 테넌트와 워크로드가 서버 수준까지 단일 AI 인프라를 효율적으로 공유할 수 있도록 합니다.

DPU 기반 제로 트러스트 보안

핵심 보안 기능과 제로 트러스트 아키텍처를 통합합니다. 여기에는 엣지 방화벽, DDoS 완화, API 보호, 침입 방지, 암호화 및 인증서 관리가 포함되며, 이러한 기능을 DPU로 오프로드하여 가속하고 격리합니다.

단일 제어 지점

성능 향상

인프라 잠재력 극대화 AI 애플리케이션에는 가속화된 네트워킹 기능이 필요합니다. BIG-IP Next for Kubernetes는 프런트엔드 네트워크와 직접 연동하여 AI 클러스터로 향하는 트래픽 흐름을 최적화함으로써 GPU 리소스를 더욱 효율적으로 활용할 수 있게 합니다. 수십억 개의 매개변수를 사용하는 AI 모델의 경우, BIG-IP Next for Kubernetes는 지연 시간을 줄이고 데이터 수집 및 수신 쿼리에 고성능 부하 분산을 제공합니다.

GPUaaS 확장

멀티테넌시 아키텍처로 AI 팩토리와 AI 워크로드용 클라우드 데이터 센터의 성능 극대화 조직이 공유 컴퓨팅 클러스터에서 더 많은 사용자를 지원하는 동시에 AI 학습 및 추론 워크로드를 확장할 수 있도록 합니다. AI 워크로드 자동화를 위한 고급 Kubernetes 기능과 중앙 집중식 정책 제어를 활용하여 서로 다른 위치의 데이터 스토리지에 AI 모델을 더 빠르게 연결하고, 애플리케이션 성능에 대한 가시성을 크게 향상합니다.

데이터, 모델 및 앱 보호

AI 배포를 안전하게 보호하고 간소화하세요 빠르게 증가하는 AI 모델용 API는 중대한 보안 과제를 야기합니다. BIG-IP Next for Kubernetes는 엔드포인트 검색 및 보호를 자동화하여 진화하는 위협으로부터 AI 앱을 안전하게 보호합니다. 네트워크 보안 처리를 CPU에서 NVIDIA BlueField DPU로 오프로드하고 DPU의 제로 트러스트 아키텍처를 활용함으로써, BIG-IP Next for Kubernetes는 세분화된 보호 기능을 제공하고 강력한 데이터 암호화를 보장합니다. 이 접근 방식은 사이버 방어를 강화할 뿐만 아니라 AI 데이터 관리도 최적화하여 서비스 제공업체와 기업에 더욱 안전하고 확장 가능하며 효율적인 인프라를 제공합니다.

남북 방향 트래픽 최적화

네트워킹, 트래픽 관리 및 보안을 통합적으로 파악이 솔루션은 증가하는 AI 워크로드 수요를 충족하며 Kubernetes 환경에 최적화되어 있습니다. 남북 방향 트래픽 흐름의 효율성을 높이고, 추론 및 에이전틱 AI와 같은 AI 활용 사례를 위한 네트워킹, 트래픽 관리 및 보안을 조직이 통합적으로 파악할 수 있도록 지원합니다.

LLM 라우팅 및 추론 최적화

고급 LLM 라우팅은 작업을 가장 효율적인 모델로 동적으로 전달하여 지연 시간을 줄이고, 첫 바이트 수신 시간(TTFB)을 단축하며, 도메인별 LLM을 활용해 더 높은 품질의 결과를 제공합니다. NVIDIA Dynamo 통합은 CPU에서 비용 효율적인 KV 캐싱을 사용해 분산 추론을 더욱 가속화함으로써 GPU 메모리 의존도를 최소화하는 동시에 성능을 최적화합니다. F5는 역방향 프록시 역할을 수행하여 진화하는 위협으로부터 LLM을 보호하고, 빠르게 변화하는 AI 프로토콜에 대한 적응성을 보장함으로써 확장 가능하고 안전한 운영을 지원하며 모델 컨텍스트 프로토콜(MCP) 배포의 보안을 강화합니다.

대규모 NVIDIA 가속 컴퓨팅 배포

투자 효과를 극대화하세요

AI 팩토리와 클라우드 데이터 센터에 대규모 GPU 클러스터를 구축하는 조직이 성공하려면 성능, 효율성, 보안이 핵심입니다. BIG-IP Next for Kubernetes는 NVIDIA BlueField-3 DPU 플랫폼을 활용하여 수익 창출 애플리케이션에 필요한 귀중한 CPU 리소스를 확보합니다. NVIDIA BlueField-3 DPU(B3220 및 B3240 버전)에 배포된 BIG-IP Next for Kubernetes는 데이터 이동을 최적화하고 GPU 활용률을 높이는 동시에 에너지 소비를 최적화합니다.

핵심 기능

BIG-IP Next for Kubernetes는 AI 팩토리에 고성능 네트워킹, 고급 보안 및 간소화된 운영을 제공하며, 원활한 확장, Kubernetes 통합 및 실시간 트래픽 가시성을 지원하여 AI 워크로드를 최적화합니다.

AI 성능 극대화

AI 워크로드의 데이터 처리량과 GPU 활용률을 높이세요.

안전한 멀티테넌시

여러 테넌트를 위한 안전하고 격리된 환경을 지원합니다.

제로 트러스트 보안

고급 보안 기능으로 AI 워크로드를 보호하세요.

중앙 집중식 관리

단일 제어 지점으로 운영을 간소화하세요.

고속 네트워킹

고성능 AI 작업에 필요한 초고속 연결성을 제공합니다.

원활한 확장성

AI 워크로드가 증가함에 따라 인프라를 손쉽게 확장할 수 있습니다.

Kubernetes 통합

Kubernetes 네이티브 워크플로와 원활하게 통합하세요.

트래픽 가시성

네트워크 트래픽과 성능을 실시간으로 파악하세요.

리소스

F5 BIG-IP Next for Kubernetes는 NVIDIA BlueField DPU를 통해 검증된 AI 추론 성능을 제공합니다.

The Tolly Group의 독립적인 테스트 결과, F5의 지능형 AI 트래픽 관리가 추론 효율성을 크게 향상시켜 NVIDIA 가속 인프라에서 실행되는 대규모 AI 워크로드의 토큰 처리량을 높이고, 첫 번째 토큰 생성 시간을 단축하며, 지연 시간을 줄이는 것으로 나타났습니다.

자세히 알아보기