NVIDIA는 NVIDIA GTC와 CES에서 엔터프라이즈 AI가 나아갈 방향을 분명히 제시했습니다. 바로 AI 추론 및 학습을 위해 예측 가능한 성능, 비용 절감, 운영 안정성을 제공하도록 특별히 설계되고 검증된 인프라 및 소프트웨어 스택인 AI 팩토리입니다.
NVIDIA 엔터프라이즈 AI 팩토리 검증된 설계는 NVIDIA 가속 컴퓨팅, 네트워킹, 소프트웨어 및 오케스트레이션을 통합하여 기업이 안심하고 온프레미스에 배포할 수 있는 풀스택 검증 설계로 이러한 비전을 실현합니다. 이 아키텍처의 일환으로 NVIDIA는 AI 인프라 전반에서 실제 프로덕션 규모의 과제를 해결하는 검증된 파트너 생태계를 지속적으로 확장하고 있습니다.
오늘, 기쁜 소식을 전해드립니다. F5 BIG-IP Next for Kubernetes가 NVIDIA RTX PRO 서버에서 실행되도록 검증되었으며, NVIDIA BlueField-3 DPU를 탑재하고 NVIDIA Enterprise AI Factory 검증 설계에 포함되었습니다. 현재 F5 BIG-IP을 배포하고 있는 20,000개 이상의 조직을 비롯한 고객은 NVIDIA Enterprise AI Factory를 구축하면서 신뢰할 수 있는 F5 BIG-IP 기능을 원활하게 확장할 수 있습니다.
“NVIDIA BlueField 기반 F5 BIG-IP Next for Kubernetes는 고성능 트래픽 관리, 보안 및 AI 인식 제어 기능을 검증된 엔터프라이즈급 솔루션으로 제공합니다.”
NVIDIA Enterprise AI Factory 검증 설계는 기업이 AI를 프로덕션 환경에 도입할 때 예측 가능한 성능, 보안 및 확장성을 보장하는 반복 가능한 구성 요소를 중심으로 구축되었습니다. 이 아키텍처는 개별 솔루션을 조합하는 대신 GPU, DPU, 네트워킹 및 소프트웨어가 하나의 통합 시스템으로 함께 작동하는 방식을 정의합니다. F5가 이 검증 설계에 포함된 것은 이러한 접근 방식을 더욱 공고히 합니다.
설계 검증에 더해, NVIDIA DPU로 가속되는 BIG-IP Next for Kubernetes를 AI 추론 워크로드에서 실행할 때 얻을 수 있는 실제 성능 및 효율성 향상 효과를 정량화하기 위해 상세한 실험실 성능 테스트를 완료했습니다. 테스트 결과와 방법론은 AI 추론을 위한 검증된 성능 보고서에서 확인할 수 있습니다.
AI 팩토리에 풀스택 접근 방식이 필요한 이유
AI 추론 성능은 단순히 더 빠른 GPU만으로 결정되는 것이 아닙니다. 시스템을 최적화할 수 있는 전체 스택도 중요합니다. 프로덕션 환경에서는 네트워킹, 보안, 트래픽 관리가 토큰 생성 속도, 모델 응답의 일관성, 인프라 활용 효율성을 좌우하는 핵심 요소로 점점 더 중요해지고 있습니다.
AI 서비스가 여러 테넌트, 모델 및 사용자 전반으로 확장됨에 따라 기업은 다양한 요소를 효과적으로 관리해야 합니다. 이는 온프레미스 또는 소버린 AI 환경을 구축하는 조직에 특히 중요합니다. 이러한 환경에서는 성능, 거버넌스 및 제어를 퍼블릭 클라우드 서비스에 위임할 수 없기 때문입니다.
기업에는 현재 네트워킹 및 보안 작업을 처리해야 하는 호스트 CPU의 활용 극대화, 최적의 첫 토큰 생성 시간(TTFT)을 위한 일관된 지연 시간, 토큰 사용량에 대한 가시성과 제어, 그리고 거버넌스, 공정성 및 규정 준수를 적용할 수 있는 역량이 필요합니다.
바로 이 지점에서 DPU와 그 위에서 실행되는 소프트웨어가 AI 팩토리의 핵심 기반으로 자리 잡습니다.
적합한 작업을 적합한 실리콘으로 오프로딩
NVIDIA BlueField-3 DPU에서 가속되는 F5 BIG-IP Next for Kubernetes는 중요한 네트워킹 및 보안 기능을 호스트 CPU에서 DPU의 프로그래밍 가능한 ARM 코어와 하드웨어 가속 엔진으로 오프로드합니다.
이렇게 오프로드되는 서비스에는 부하 분산 및 트래픽 조정, TLS 종료 및 암호화, 방화벽 및 보안 정책 적용, API 보호 및 침입 탐지가 포함됩니다.
이러한 기능을 NVIDIA BlueField DPU로 이전하면 호스트 CPU는 범용 워크로드를 처리할 수 있게 되고, GPU는 AI 추론에만 온전히 집중할 수 있습니다.
그 결과는 측정 가능하며 실질적입니다. 토큰 생성 처리량은 30% 이상 증가하고 TTFT는 최대 60% 감소합니다.
이러한 성능 향상은 응답 속도 향상, 모델 활용도 증대, 인프라 효율성 개선으로 직결되며, 이는 바로 엔터프라이즈 AI 팩토리가 요구하는 바입니다.
오프로딩을 넘어: 토큰 거버넌스와 지능형 LLM 라우팅
오프로딩은 시작에 불과합니다.
NVIDIA BlueField DPU에서 실행되는 BIG-IP Next for Kubernetes의 프로그래밍 가능한 데이터 플레인은 기존 네트워킹을 뛰어넘는 고급 AI 인식 서비스를 지원합니다.
기본 제공되는 토큰 거버넌스
BIG-IP Next for Kubernetes는 기업이 테넌트별, 사용자별 또는 모델별로 토큰을 계산하고 추적하며, 토큰 속도 제한 및 사용 정책을 적용하고, 규정 준수, 비용 할당 및 공정성 요구 사항을 지원할 수 있도록 네이티브 토큰 거버넌스 기능을 제공합니다.
토큰 기반 가격 책정이 AI의 지배적인 경제 모델로 자리 잡으면서 인프라 계층에서의 거버넌스가 필수적입니다.
NVIDIA NIM을 활용한 지능형 LLM 라우팅
NVIDIA NIM 마이크로서비스와의 통합을 통해 BIG-IP Next for Kubernetes는 쿼리 복잡성, 성능 요구 사항 또는 정책 제약 조건에 따라 추론 요청을 가장 적합한 모델로 동적으로 라우팅할 수 있습니다.
이를 통해 간단한 쿼리에 더 빠르게 응답하고, 다양한 워크로드 전반에서 모델 활용을 최적화하며, 비용, 성능 및 규정 준수 목표에 부합하는 정책 기반 라우팅을 구현할 수 있습니다.
토큰 거버넌스와 지능형 라우팅을 결합하면 BIG-IP Next for Kubernetes는 네트워킹 구성 요소에서 AI 추론 트래픽을 위한 제어 영역으로 탈바꿈합니다.
NVIDIA 엔터프라이즈 AI 팩토리의 검증된 구성 요소
NVIDIA RTX PRO 서버, NVIDIA BlueField-3 DPU와 함께 엔터프라이즈 AI 팩토리를 위한 이 풀스택 검증 설계의 핵심 가속 컴퓨팅 플랫폼 구성 요소를 이룹니다.
BIG-IP Next for Kubernetes가 이제 NVIDIA BlueField에서 검증되고 엔터프라이즈 AI 팩토리 설계에 포함됨에 따라, 고객은 AI 워크로드에 예측 가능한 성능을 제공하는 프로덕션 환경에 즉시 적용 가능한 최적의 네트워킹 및 보안 계층을 활용할 수 있습니다. 또한 GPU 및 CPU 효율성이 향상되고 토큰 경제성과 거버넌스를 위한 제어 기능이 기본으로 제공됩니다.
이번 검증은 F5와 NVIDIA가 공유하는 비전, 즉 AI 인프라는 단순히 조립하는 것이 아니라 설계해야 한다는 비전을 더욱 확고히 합니다.
향후 전망
기업이 AI 실험 단계에서 프로덕션 AI 팩토리로 전환함에 따라, 인프라 스택도 대규모 환경에서 성능, 효율성 및 거버넌스를 지원할 수 있도록 발전해야 합니다. NVIDIA가 엔터프라이즈 AI 팩토리를 지속적으로 발전시키는 가운데, F5는 차세대 추론 플랫폼을 대규모로 지원하기 위해 트래픽 관리, 보안 및 AI 인식 제어 전반에서 역할을 확대할 것입니다.
NVIDIA BlueField DPU 기반 F5 BIG-IP Next for Kubernetes는 바로 이러한 요구를 충족하며, 고성능 트래픽 관리, 보안 및 AI 인식 제어 기능을 검증된 엔터프라이즈용 솔루션에 통합합니다.
당사는 Enterprise AI Factory 에코시스템의 일원으로 NVIDIA와 협력하게 된 것을 자랑스럽게 생각하며, 앞으로 수개월 동안 공동 혁신과 시장 진출 노력을 확대해 나가기를 기대합니다.
자세히 알아보세요: NVIDIA Enterprise AI Factory 검증 설계 및 F5의 역할.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.