F5, NVIDIA와 함께 빠르게 진화하는 AI 환경을 위한 성능, 멀티테넌시 및 보안 역량 확대

게시일: 2025년 6월 11일

연락처

Dan SorensenF5(650) 228-4842d.sorensen@f5.com
Holly LancasterWe. Communications(415) 547-7054hlancaster@wecommunications.com

Sesterce 검증은 고객이 AI 우선 애플리케이션 제공의 가치를 실현할 수 있도록 지원하는 F5와 NVIDIA 간의 협력적 혁신을 잘 보여줍니다.

파리 – 모든 앱과 API의 제공 및 보안 분야를 선도하는 글로벌 기업 F5(NASDAQ: FFIV)는 오늘 F5 BIG-IP Next for Kubernetes에 NVIDIA BlueField-3 DPU 및 NVIDIA DOCA 소프트웨어 프레임워크를 통해 가속화되는 새로운 기능을 추가했다고 발표했으며, 고객사인 Sesterce의 검증 배포를 통해 그 성능을 입증했습니다. Sesterce는 가속 컴퓨팅과 인공지능의 요구 사항을 충족하도록 설계된 차세대 인프라 및 소버린 AI를 전문으로 하는 유럽의 선도적인 사업자입니다.

Extending the F5 Application Delivery and Security Platform을 확장한 BIG-IP Next for Kubernetes는 NVIDIA BlueField-3 DPU에서 네이티브로 실행되며, 대규모 AI 인프라를 위한 고성능 트래픽 관리 및 보안을 제공하여 AI 애플리케이션의 효율성, 제어력 및 성능을 한층 향상합니다. Sesterce는 올해 초 정식 출시와 함께 발표된 탁월한 성능상의 이점에 더해, 다음 영역을 비롯한 여러 핵심 기능에 걸쳐 F5와 NVIDIA 솔루션의 검증을 성공적으로 완료했습니다:

- 향상된 성능, 멀티테넌시 및 보안을 통해 클라우드급 요구 사항을 충족하며, 초기에는 GPU 활용률이 20% 향상된 것으로 나타났습니다.

- 통합: NVIDIA Dynamo 및 KV 캐시 관리자 대규모 언어 모델(LLM) 추론 시스템의 추론 지연 시간을 줄이고 GPU 및 메모리 리소스를 최적화합니다.

- 스마트 LLM 라우팅은 BlueField DPU에서 실행되며, 여러 모델이 필요한 워크로드를 위해 NVIDIA NIM 마이크로서비스와 효율적으로 연동되어 고객이 사용 가능한 모든 모델의 장점을 최대한 활용할 수 있도록 지원합니다.

- 모델 컨텍스트 프로토콜(MCP)의 확장성 및 보안 강화 역방향 프록시 기능과 보호 기능을 통해 LLM의 확장성과 보안을 강화하여 고객이 MCP 서버의 강력한 기능을 빠르고 안전하게 활용할 수 있도록 지원합니다.

- 강력한 데이터 프로그래밍 기능 강력한 F5 iRules 기능을 통해 AI 애플리케이션과 변화하는 보안 요구 사항을 지원하도록 신속하게 맞춤 설정할 수 있습니다.

Sesterce의 CEO 겸 공동 창립자인 Youssef El Manssouri는 “테스트를 진행하기 전부터 F5와 NVIDIA의 통합은 매력적이었습니다. 테스트 결과는 AI 환경에서 대규모 Kubernetes 인그레스 및 이그레스와 함께 F5의 동적 부하 분산을 사용할 때 얻을 수 있는 이점을 분명히 보여줍니다. 이 접근 방식을 통해 트래픽을 더욱 효율적으로 분산하고 GPU 활용을 최적화하는 동시에 고객에게 차별화된 부가 가치를 제공할 수 있습니다. 향상된 멀티테넌시를 비롯해 점점 더 다양한 NVIDIA 사용 사례를 F5가 지원하게 되어 기쁘며, 차세대 AI 인프라를 지원하기 위한 양사의 지속적인 혁신을 기대합니다.”라고 말했습니다.

새로운 솔루션 기능의 주요 내용은 다음과 같습니다:

BIG-IP Next for Kubernetes를 통한 LLM 라우팅 및 동적 부하 분산

이 협업 솔루션을 사용하면 생성형 AI를 지원할 때 간단한 AI 관련 작업은 비용이 저렴한 경량 LLM으로 라우팅하고, 복잡한 쿼리에는 고급 모델을 활용할 수 있습니다. 또한 이처럼 사용자 지정 가능한 인텔리전스를 통해 라우팅 기능에서 도메인별 LLM을 활용할 수 있어 출력 품질과 고객 경험이 크게 향상됩니다. F5의 고급 트래픽 관리는 쿼리가 가장 적합한 LLM으로 전송되도록 하여 지연 시간을 줄이고 첫 번째 토큰 생성 시간을 단축합니다.

“기업들은 고도화된 AI 경험을 제공하기 위해 여러 LLM을 점점 더 많이 배포하고 있지만, LLM 트래픽을 라우팅하고 분류하는 작업에는 많은 컴퓨팅 리소스가 필요해 성능과 사용자 경험이 저하될 수 있습니다.”라고 F5의 최고혁신책임자(CIO) 쿠날 아난드(Kunal Anand)는 말했습니다. “NVIDIA BlueField-3 DPU에서 라우팅 로직을 직접 프로그래밍함으로써 F5 BIG-IP Next for Kubernetes는 LLM 트래픽을 전송하고 보호하는 가장 효율적인 접근 방식을 제공합니다. 이는 시작에 불과합니다. 당사의 플랫폼은 AI 인프라의 새로운 가능성을 열어 주며, 엔터프라이즈 AI가 지속적으로 확장됨에 따라 NVIDIA와의 공동 혁신을 더욱 강화할 수 있기를 기대합니다.”

NVIDIA Dynamo 및 KV 캐시 통합을 통한 대규모 분산 AI 추론용 GPU 최적화

올해 초, NVIDIA Dynamo가 공개되었습니다. 이는 대규모 분산 환경에서 생성형 AI 및 추론 모델을 배포하기 위한 보완 프레임워크를 제공합니다. NVIDIA Dynamo는 스케줄링, 라우팅, 메모리 관리 등의 작업을 오케스트레이션하여 동적으로 변화하는 워크로드에서도 원활하게 운영되도록 함으로써 분산 환경에서 AI 추론을 실행할 때의 복잡성을 줄여 줍니다. 특정 작업을 CPU에서 BlueField DPU로 오프로드하는 것은 F5와 NVIDIA의 통합 솔루션이 제공하는 핵심 이점 중 하나입니다. F5를 사용하면 Dynamo KV Cache Manager 기능이 용량을 기준으로 요청을 지능적으로 라우팅할 수 있습니다. 또한 키-값(KV) 캐싱을 활용해 이전 작업의 정보를 유지하고 이를 기반으로 처리 속도를 높임으로써, 리소스 집약적인 재계산 없이 생성형 AI 사용 사례를 가속화할 수 있습니다. 인프라 관점에서 조직은 KV 캐시 데이터를 저장하고 재사용할 때, 이를 위해 GPU 메모리를 사용하는 것보다 훨씬 적은 비용으로 운영할 수 있습니다.

“NVIDIA BlueField-3 DPU로 가속되는 BIG-IP Next for Kubernetes는 기업과 서비스 제공업체에 AI 팩토리로 향하는 트래픽을 효율적으로 라우팅할 수 있는 단일 제어 지점을 제공하여 GPU 효율성을 최적화하고, 데이터 수집, 모델 학습, 추론, RAG 및 에이전틱 AI를 위한 AI 트래픽을 가속합니다.”라고 NVIDIA의 AI 네트워킹 및 보안 솔루션, 에코시스템 및 마케팅 부문 수석 디렉터인 Ash Bhalgat은 말했습니다. “또한 F5의 멀티테넌시 지원과 iRules를 통한 향상된 프로그래밍 기능은 NVIDIA Dynamo Distributed KV Cache Manager 지원과 같은 지속적인 통합 및 기능 추가에 매우 적합한 플랫폼을 계속해서 제공합니다.”

F5와 NVIDIA를 통한 MCP 서버 보호 강화

모델 컨텍스트 프로토콜(MCP)은 애플리케이션이 LLM에 컨텍스트를 제공하는 방식을 표준화하기 위해 Anthropic이 개발한 개방형 프로토콜입니다. MCP 서버 앞단에 F5와 NVIDIA의 통합 솔루션을 배포하면 F5 기술이 리버스 프록시 역할을 수행하여 MCP 솔루션과 이를 기반으로 하는 LLM의 보안 기능을 강화할 수 있습니다. 또한 F5 iRules가 지원하는 완전한 데이터 프로그래밍 기능은 빠르게 진화하는 AI 프로토콜 요구 사항에 신속하게 적응하고 탄력적으로 대응할 수 있도록 하며, 새롭게 부상하는 사이버 보안 위험에 대한 보호 기능도 한층 강화합니다.

“에이전틱 AI를 구현하는 조직들은 LLM의 보안과 성능을 개선하기 위해 MCP 배포에 점점 더 의존하고 있습니다.”라고 World Wide Technology의 글로벌 서비스 제공업체 부문 수석 부사장(SVP)인 Greg Schoeny는 말했습니다. “F5와 NVIDIA는 광범위한 Kubernetes 환경에 고급 트래픽 관리 및 보안을 도입함으로써 프로그래밍 및 자동화 기능과 함께 통합 AI 기능 세트를 제공하고 있습니다. 이는 현재 업계의 다른 곳에서는 찾아보기 어려운 수준입니다.”

NVIDIA BlueField-3 DPU에 배포되는 F5 BIG-IP Next for Kubernetes가 현재 정식 출시되었습니다. 기술에 대한 자세한 내용과 배포 이점을 알아보려면 www.f5.com을 확인하고, 이번 주 VivaTech 2025 행사의 일환으로 열리는 NVIDIA GTC Paris에서 양사의 부스를 방문해 보십시오. 자세한 내용은 F5의 관련 블로그에서도 확인할 수 있습니다.

Sesterce 소개

2018년에 설립된 Sesterce는 고성능 컴퓨팅 및 인공지능 인프라를 전문으로 하는 유럽의 선도적인 사업자입니다. 가치 사슬 전반을 완전히 통제함으로써 스타트업, 대기업 및 학술 기관의 요구에 맞춘 유연하고 자주적이며 지속 가능한 솔루션을 제공합니다. Sesterce는 윤리적·환경적 기준을 준수하면서 혁신 기업의 성장을 지원하는 유럽 최고의 AI 인프라 기업을 목표로 합니다.

이러한 취지에서 Sesterce는 자사 인프라를 기반으로 한 ‘AI 네이티브’ 서비스 계층도 제공합니다. 이 서비스는 이기종 실시간 스트림을 수집하고 변환하는 고도화된 데이터 준비 기능, 대규모 모델을 개발하거나 배포하는 조직을 위한 초거대 언어 모델(VLLM) 전용 지원, 그리고 AI 네이티브 스타트업과 기존 기업 모두를 위해 설계된 모듈형 비즈니스 인텔리전스 솔루션을 제공합니다. 또한 Sesterce는 유럽의 주권 및 기밀성 기준을 완벽하게 준수하는 프라이빗 AI 및 추론 환경을 통해 전 과정에 걸친 개인정보 보호와 통제권을 보장합니다.

F5 소개

F5, Inc.(NASDAQ: FFIV)는 모든 애플리케이션을 제공하고 보호하는 글로벌 선도 기업입니다. 30년간 축적한 전문성을 바탕으로 F5는 업계 최고의 플랫폼인 F5 Application Delivery and Security Platform (ADSP)을 구축하여 온프레미스, 클라우드, 엣지, 하이브리드 및 멀티클라우드 환경 등 어디서나 모든 애플리케이션과 API를 제공하고 보호합니다. F5는 혁신을 추구하며 세계 최대 규모의 최첨단 조직들과 협력하여 빠르고 가용성이 뛰어나며 안전한 디지털 경험을 제공하기 위해 최선을 다하고 있습니다. 우리는 함께 서로의 성장을 돕고 더 나은 디지털 세상을 실현합니다.

F5, BIG-IP, BIG-IP Next 및 iRules는 미국 및 기타 국가에서 F5, Inc.의 상표, 서비스표 또는 상호입니다. 여기에 언급된 기타 모든 제품명 및 회사명은 해당 소유자의 상표일 수 있습니다.

###

본 보도자료에는 위험과 불확실성을 수반하는 향후 사건 또는 미래 재무 성과와 관련된 미래예측진술이 포함될 수 있습니다. 이러한 진술은 "~할 수 있다", "~할 것이다", "~해야 한다", "예상한다", "계획한다", "기대한다", "믿는다", "추정한다", "예측한다", "잠재적", "지속한다" 등의 표현이나 이러한 표현의 부정형 또는 이와 유사한 표현을 통해 식별할 수 있습니다. 이러한 진술은 예측에 불과하며, 회사가 미국 증권거래위원회(SEC)에 제출한 서류에 명시된 요인을 비롯한 여러 요인으로 인해 실제 결과는 해당 진술에서 예상한 결과와 크게 다를 수 있습니다.