이 블로그 게시물은 F5의 제품 관리 부문 부사장(서비스 제공업체 담당) Ahmed Guetari와 NVIDIA의 AI 네트워킹 및 보안 에코시스템 부문 수석 디렉터 Ash Bhalgat이 공동으로 작성했습니다.
AI는 추론 성능과 보안이 고객의 기대를 충족하는 데 있어 성공을 좌우하는 시대로 접어들고 있습니다. 토큰 경제가 진화함에 따라 AI 인프라는 더 이상 단순한 원시 컴퓨팅 성능만을 의미하지 않습니다. 이제는 클라우드부터 엣지 데이터 센터에 이르기까지 추론 기능을 조율하고 보호하며 확장하는 것이 핵심입니다. 생성형 AI 및 추론 플랫폼을 구축하는 클라우드 사업자는 GPU 효율성을 극대화하고, 토큰 처리 용량을 늘리고, 지연 시간을 단축하며, AI 인프라의 모든 계층을 보호해야 하는 시급한 과제에 직면해 있습니다.
F5는 추론을 확장하기 위해 NVIDIA Cloud Partner(NCP) 참조 아키텍처를 활용하여 이러한 과제를 해결합니다. 이 필수 청사진은 선도적인 AI 클라우드 제공업체가 GPU 가속 인프라를 설계, 구축 및 운영하는 방식을 정의합니다. 이 참조 아키텍처는 컴퓨팅, 네트워킹, 스토리지 및 보안 전반의 동급 최고 기술을 통합하여 NVIDIA Cloud Partner가 안정적인 고성능 AI 서비스를 대규모로 제공할 수 있도록 지원합니다.
“F5의 역량을 NVIDIA Cloud Partner 참조 아키텍처에 맞춤으로써, 토큰 처리량, 토큰당 비용, 지연 시간, 전력 효율성 및 보안을 최우선 요소로 삼는 새로운 평가 체계를 정립하는 데 기여하고 있습니다.”
이번 협력을 통해 F5 BIG-IP은 이제 NVIDIA 에코시스템 내에서 안전한 고처리량 추론을 지원하는 데 핵심적인 역할을 합니다.
F5는 네트워킹, 보안 및 애플리케이션 전송 기능을 긴밀하게 통합하여 NVIDIA와 함께 지능형 토큰 기반 AI 플랫폼을 지원합니다. 대규모 AI 운영의 의미를 새롭게 정의하고, 새로운 토큰 경제를 뒷받침하는 데 필요한 속도와 보호 기능, 인텔리전스를 제공합니다.
NCP 레퍼런스 아키텍처: AI 클라우드를 위한 기반
NCP 참조 아키텍처는 AI 클라우드 구축을 위한 포괄적인 프레임워크를 제공합니다. NVIDIA의 가속 컴퓨팅, 네트워킹 및 소프트웨어 기능과 주요 에코시스템 파트너의 상호 보완적인 기술을 결합하여 클라우드에서 고성능의 확장 가능하고 안전한 AI 솔루션을 제공합니다.
이 아키텍처의 일부로 F5 BIG-IP은 고급 트래픽 관리, 제로 트러스트 보안, 고급 서비스 및 관측성을 GPU 기반 AI 워크로드에 제공하여 NCP가 추론 서비스를 안심하고 배포, 확장 및 보호할 수 있도록 지원합니다.
토큰 경제의 부상과 NCP 참조 아키텍처
AI 클라우드 제공업체와 기업에서 토큰은 처리량, 전체 지연 시간, 첫 번째 토큰 생성까지 걸리는 시간, 에너지 효율성, 토큰당 비용으로 평가되는 새로운 화폐입니다. 성공 여부는 사용자와 GPU 클러스터를 연결하는 인프라에 달려 있습니다. 고성능 AI 서비스를 지원하려면 트래픽 라우팅, 보호, 관측 가능성, 멀티테넌시, 정책 적용이 병목 현상을 유발하지 않으면서 모두 회선 속도로 작동해야 합니다.
NCP 참조 아키텍처는 이 청사진을 체계화합니다. 이 아키텍처는 소버린 클라우드와 AI 클라우드에서 컴퓨팅, 네트워킹, 스토리지, 텔레메트리 및 보안을 상호 연결하는 방식을 정의합니다. NVIDIA BlueField-3 DPU는 이러한 아키텍처에서 남북 방향 트래픽의 핵심 역할을 합니다.
F5는 최고 수준의 인프라 지원 요소로 이 생태계에 합류하여 네트워킹, 보안 및 AI 인식형 제어 기능을 레퍼런스 패브릭에 직접 통합합니다.
F5: 성능, 보안 및 효율성을 위한 NCP AI 클라우드 가속
F5는 NVIDIA 기술을 통합하여 이미 뛰어난 성과를 거두었습니다. 2025년 4월, F5는 NVIDIA BlueField-3 DPU로 가속되는 F5 BIG-IP Next for Kubernetes의 정식 출시를 발표했습니다. 이 솔루션은 네트워크 처리, 보안 정책 적용 및 트래픽 인텔리전스를 DPU로 오프로드하여 비즈니스 애플리케이션에 CPU 리소스를 더 많이 할당할 수 있도록 합니다. 최근 클라우드 개념 증명(PoC) 테스트를 진행한 NCP인 SoftBank는 탁월한 성능 결과를 달성했습니다.
단순한 성능을 넘어, F5 BIG-IP의 기능은 통합 인그레스/이그레스 정책 제어, 서비스 메시, 분산 서비스 거부(DDoS) 공격 완화, 제로 트러스트 적용, API 보호, 워크로드 격리, 멀티테넌트 관측성과 같은 NCP의 운영 요구 사항에 긴밀하게 부합하며, 이 모든 기능을 단일 패스로 처리합니다.
이번 협업을 통해 대규모 언어 모델(LLM) 라우팅 로직, 토큰을 고려한 트래픽 측정 및 거버넌스, 모델 컨텍스트 프로토콜(MCP) 지원을 개선하여 데이터 경로 자체에 더 강력한 제어 기능과 지능을 더했습니다.
NCP 참조 아키텍처를 지원함으로써 BIG-IP는 이제 AI 클라우드의 구축, 배포 및 거버넌스 방식을 뒷받침하는 핵심 구성 요소로 자리매김합니다.
AI 처리량 가속화: 토큰 처리량 30% 증가, TTFT 60% 단축
초기 검증 결과는 매우 인상적입니다. F5 BIG-IP 서비스를 NVIDIA 가속 컴퓨팅 플랫폼과 함께 배포하면 토큰 생성량은 30% 이상 증가하고, 첫 번째 토큰 생성 시간(TTFT)은 60% 단축됩니다.
이러한 개선은 더 길고 맥락을 잘 이해하는 응답, 더 빠른 추론 주기, 토큰당 비용 30% 절감으로 이어집니다. 여기에 와트당 토큰 처리량 향상까지 더해져, 이번 통합은 AI의 새로운 경제성을 좌우하는 핵심 요소인 성능과 에너지 효율을 모두 높입니다.
클라우드 고객이 NCP에서 모델을 실행하면 가치 실현 시간 단축, 운영 비용 절감, 배포된 모든 모델의 사용자 경험 개선 등 상당한 이점을 누릴 수 있습니다.
이러한 성과는 단순한 점진적 개선을 넘어, AI 클라우드가 서비스를 제공하고 보호하며 수익화하는 방식이 구조적으로 한 단계 도약했음을 보여줍니다.
NCP 참조 아키텍처에서 F5가 미치는 영향의 세 가지 핵심 축
F5가 NCP 참조 아키텍처에 포함됨에 따라 AI 서비스를 배포하는 고객은 다음과 같은 주요 영역에서 성능 향상, 보안 강화 및 기능 확장의 이점을 누릴 수 있습니다:
1. 성능 향상: 토큰 경제에 최적화: F5 BIG-IP은 NVIDIA GPU, DPU, 네트워킹 패브릭 및 소프트웨어 플랫폼 구성 요소(NVIDIA Dynamo, NVIDIA NIM)와 원활하게 통합되어 AI 추론 처리량을 극대화합니다. F5 솔루션은 프롬프트 라우팅, 부하 분산 및 추론 효율성을 최적화하여 병목 현상을 제거하고 클러스터당 초당 더 많은 토큰을 처리합니다.
모든 토큰이 수익과 모델 정확도 향상에 기여하는 환경에서 이러한 이점은 생산성을 높이고 응답 속도를 단축하며 수익성을 향상합니다. F5와 NVIDIA의 협력은 효율성과 성능이 비즈니스 성과를 직접 좌우하는 새로운 토큰 경제에서 가속 컴퓨팅 인프라의 잠재력을 최대한 끌어냅니다.
2. AI 추론을 위해 새롭게 설계된 보안: 대규모 AI 추론은 데이터 노출부터 모델 엔드포인트 악용에 이르기까지 새로운 공격 표면을 만들어냅니다. F5는 애플리케이션 보안 및 정책 적용에 대한 풍부한 전문성을 NVIDIA의 참조 아키텍처에 직접 통합하여 코어부터 엣지까지 GPU 클라우드를 강화하는 다계층 보호 기능을 제공합니다. 여기에는 다음이 포함됩니다:
- 추론 API를 위한 고급 DDoS 방어 및 적응형 트래픽 보호.
- 환경 전반에 걸친 제로 트러스트 적용 및 정책 기반 ID 제어.
- 엔드투엔드 트래픽 무결성을 위한 완전한 레이어 7 방화벽 및 MCP 보안.
- 전 세계의 규정 준수 및 개인정보 보호 기준을 충족하는 포괄적인 데이터 보호.
그 결과, 성능과 보호가 공존하는 신뢰할 수 있는 AI 패브릭이 구축되어 NCP 고객은 안전이나 규정 준수를 저해하지 않으면서도 안심하고 확장할 수 있습니다.
3. 확장된 기능 및 AI 네이티브 제어: F5와 NVIDIA의 협업은 처리량과 보안을 넘어 GPU 클러스터 전반의 제어, 가시성 및 인텔리전스를 강화하는 새로운 부가 가치 서비스를 제공합니다. LLM 라우팅, 세분화된 토큰 거버넌스, 적응형 관측성, 컨텍스트 인식 트래픽 조정 등의 기능을 통해 AI 운영자는 워크로드 배치와 리소스 사용을 실시간으로 최적화할 수 있습니다.
이러한 기능은 엔터프라이즈급 애플리케이션 딜리버리를 AI 영역에 구현하여 모든 토큰과 모델, 사용자 상호작용이 정확하고 효율적으로 처리되도록 보장합니다. 이는 F5가 복잡성을 통제 가능한 환경으로 전환하고, 기존 애플리케이션과 빠르게 진화하는 생성형 AI의 세계를 연결하는 방식입니다.
AI 인프라를 위한 새로운 원장
F5의 역량을 NCP 참조 아키텍처에 맞춤으로써, 처리량, 토큰당 비용, 지연 시간, 전력 효율성 및 보안을 AI 인프라 설계의 최우선 요소로 삼는 새로운 평가 체계를 정립하는 데 기여하고 있습니다.
이 기반 위에 구축된 AI 클라우드는 더욱 예측 가능하게 확장하고, 더욱 투명하게 수익을 창출하며, 모델과 워크로드의 발전에 따라 더욱 신속하게 적응할 수 있습니다. 이제 NCP, 기업 및 소버린 클라우드는 신뢰성과 성능을 모두 제공하는 검증된 레퍼런스 스택을 활용할 수 있습니다.
F5는 단순히 NVIDIA 에코시스템에 합류하는 데 그치지 않습니다. F5와 NVIDIA는 모든 마이크로초, 와트, 토큰이 중요한 토큰 경제를 함께 발전시키고 있습니다. F5는 안전하고 고성능이며 경제적으로 확장 가능한 AI 인프라를 구현하는 전략적 조력자로서, 고객이 더욱 효율적이고 빠르며 안전하고 스마트하게 토큰을 생성할 수 있도록 NVIDIA와 협력하고 있습니다.
고객, 파트너, 그리고 혁신을 함께 이끄는 여러분과 협력하여 어떠한 타협도 없는 차세대 AI 서비스를 구축해 나가기를 기대합니다.
자세한 내용은 F5 및 NVIDIA 웹페이지에서 확인하세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.