지난 수십 년 동안 비즈니스 세계는 기술 혁명으로 촉발된 수많은 전환점을 맞이해 왔으며, F5는 이러한 중대한 고비마다 고객이 헤쳐 나갈 수 있도록 함께해 왔습니다.
조직들이 디지털 혁신에 착수하면서 애플리케이션은 비즈니스의 핵심이 되었고, F5는 애플리케이션을 대규모로 제공하고 보호할 수 있도록 지원했습니다. 최근에는 5G가 전례 없는 속도와 서비스, 안정성으로 비즈니스 세계를 혁신할 것으로 기대되는 가운데, F5는 이동통신사들이 클라우드 네이티브 5G 코어를 대규모로 구축할 수 있도록 지원했습니다.
이제 조직들이 AI의 힘을 활용할 방법을 모색하면서, 우리는 또다시 변곡점에 서 있습니다. 아마도 업계가 지금까지 맞닥뜨린 가장 큰 변곡점일 것입니다. 고객이 이 혁신적인 기술을 도입하는 과정에서 F5는 대규모 AI 배포의 잠재력을 최대한 실현할 수 있도록 지원하고 있습니다.
최적의 성능을 달성하기 어려운 이유
AI 클러스터 도입이 확대되면서 가속 컴퓨팅으로의 전환이 촉진되고 있습니다. 범용 컴퓨팅, 네트워킹, 보안 및 모니터링 분야의 기존 방식을 그대로 적용하려 하면 비효율과 지연이 발생하고 비용이 증가하는 경우가 많습니다.
AI의 막대한 데이터 처리 요구사항은 기존 네트워크 인프라에 상당한 부담을 주어 최적의 성능을 유지하기 어렵게 만듭니다. NVIDIA BlueField 데이터 처리 장치(DPU)는 이러한 문제를 해결하는 핵심 솔루션으로 부상했습니다. BlueField-3 DPU는 패킷 처리, 암호화, 압축과 같은 고대역폭 네트워크 및 보안 작업을 오프로딩하고 가속하여 최적의 클라우드 네트워크 연결성을 제공합니다. 이러한 최적화를 통해 전반적인 성능이 향상되고 그래픽 처리 장치(GPU)의 데이터 액세스가 가속화됩니다.
서비스 제공업체와 대기업은 대규모 AI 인프라, 즉 AI 팩토리를 구축하고 NVIDIA의 풀스택 가속 컴퓨팅 플랫폼을 활용해 생성형 AI 모델의 학습과 추론을 대규모로 수행하고 있습니다. 기업은 상당한 규모에 이를 수 있는 AI 팩토리 투자의 효과를 극대화해야 합니다. 하지만 적절한 기반이 갖춰지지 않으면 AI 인프라가 충분히 활용되지 못할 수 있습니다.
AI 서버로 향하는 방대한 트래픽을 효율적으로 관리
NVIDIA BlueField-3 DPU에 배포된 F5 BIG-IP Next for Kubernetes는 이러한 문제를 해결하도록 설계되었습니다. 이 솔루션은 F5 BIG-IP Next Service Proxy for Kubernetes(SPK)를 NVIDIA의 BlueField-3 DPU에서 오프로딩하고 가속하는 데 중점을 둡니다. 또한 주요 시장 전환기에 발생하는 핵심 애플리케이션 전송 및 보안 과제를 해결해 온 F5의 리더십을 기반으로, NVIDIA의 가속 컴퓨팅 및 고성능 네트워킹 혁신을 활용합니다.
F5 BIG-IP Next SPK는 서비스 제공업체가 5G로 전환하는 과정에서 Kubernetes와 관련해 직면한 문제를 해결하기 위해 개발되었습니다. 5G 인프라는 클라우드 네이티브 컨테이너화 아키텍처를 기반으로 구축되며, 컨테이너 워크로드는 Kubernetes를 사용해 관리됩니다. 하지만 Kubernetes는 본래 5G 환경에 필요한 복잡한 사용 사례를 염두에 두고 설계되지 않았습니다. BIG-IP Next SPK는 통신사가 5G 인프라에 맞게 Kubernetes 네트워킹을 최적화할 수 있도록 지원하여, 5G 네트워크를 동적으로 확장하는 데 필요한 가시성, 제어 기능 및 보안을 제공했습니다. 지난 몇 년 동안 서비스 제공업체들은 BIG-IP를 활용해 수백만 명의 가입자에게 5G 기술을 제공해 왔습니다.
BIG-IP Next SPK가 지난 시장 변곡점에서 5G 코어를 구현하는 데 중추적인 역할을 했던 것처럼, 이제는 5G 워크로드와 유사하지만 트래픽 규모가 기하급수적으로 더 큰 AI 시장의 변곡점과 AI 워크로드 전송 과제를 해결하기 위해 진화하고 있습니다. 이러한 새로운 시장 변곡점의 요구 사항을 충족하기 위해 F5는 NVIDIA BlueField-3 DPU에 배포되어 AI 서버로 향하는 방대한 트래픽을 효과적으로 관리하는 BIG-IP Next for Kubernetes를 출시합니다.
이 솔루션은 생성형 AI의 요구 사항을 충족하도록 최신 애플리케이션 딜리버리를 혁신합니다. F5의 BIG-IP 플랫폼을 Kubernetes 네이티브 방식으로 구현하여 네트워킹, 보안 및 부하 분산 워크로드를 처리하며, AI 클러스터와 데이터 센터의 다른 영역 간 경계 지점에 배치됩니다. BIG-IP Next for Kubernetes는 AI 클러스터 네임스페이스를 데이터 센터 네트워크 테넌시에 매핑하여 적절한 보안과 간소화된 관리를 제공합니다. BIG-IP Next for Kubernetes는 BlueField-3 DPU의 하드웨어 가속기를 활용해 다양한 네트워킹 및 데이터 서비스를 가속하고, CPU 컴퓨팅 리소스의 작업을 오프로드하여 에너지 효율성을 최적화합니다.
예를 들어, Meta는 올해 초 개최한 Networking @Scale 2024 행사에서 오픈 소스 대규모 언어 모델(LLM)인 Llama 3의 학습이 네트워크 지연으로 인해 어려움을 겪었으며, 하드웨어와 소프트웨어 간 상호 작용을 조정해 이 문제를 해결했다고 밝혔습니다. 이 접근 방식으로 전반적인 성능이 10% 향상되었습니다. 10%가 작은 개선처럼 보일 수 있지만, 학습에 수개월이 걸리는 모델의 경우 이는 수주에 달하는 시간을 절약하는 효과로 이어집니다.
AI 배포의 복잡성 완화
BlueField-3 DPU에 배포된 F5 BIG-IP Next for Kubernetes는 대규모 AI 인프라를 구축하려는 서비스 제공업체와 대기업에 다양한 이점을 제공합니다. 주요 이점은 다음과 같습니다:
- 간소화된 통합: 지금까지 조직은 AI 애플리케이션을 제공하고 보호하기 위해 서로 다른 공급업체의 소프트웨어 구성 요소를 조합해야 하는 복잡성에 직면해 왔습니다. BIG-IP Next for Kubernetes는 네트워킹, 보안, 트래픽 관리 및 부하 분산을 단일 솔루션으로 통합하여 AI 배포의 복잡성을 줄여 줍니다. 또한 AI 워크로드를 최적화하는 데 필요한 풍부한 관측 기능과 세분화된 제어 기능을 제공하는 동시에, AI 인프라 전반에서 이러한 기능을 통합적으로 파악할 수 있도록 지원합니다.
- 향상된 보안: BIG-IP Next for Kubernetes는 에지 방화벽, 분산 서비스 거부(DDoS) 공격 완화, API 보호, 침입 방지, 암호화 및 인증서 관리를 비롯한 핵심 보안 기능과 제로 트러스트 아키텍처를 지원합니다. 이러한 기능을 DPU로 오프로드하여 귀중한 CPU 리소스를 확보합니다.
- 향상된 성능: BIG-IP Next for Kubernetes는 네트워킹 및 보안 성능을 가속화하며, 이는 클라우드 규모로 애플리케이션을 제공하는 AI 인프라의 요구 사항을 충족하는 데 매우 중요합니다.
- 멀티 테넌시 지원: BIG-IP Next for Kubernetes는 멀티 테넌트 아키텍처를 지원하므로 서비스 제공업체가 여러 사용자의 AI 워크로드와 데이터를 서로 분리하면서 동일한 AI 인프라에서 이들을 안전하게 호스팅할 수 있습니다.
AI에 최적화된 데이터 센터를 성공적으로 구현
조직은 당면 과제와 사용 가능한 솔루션을 신중하게 검토함으로써 기존 운영을 중단하거나 보안을 저해하지 않으면서 AI에 최적화된 데이터 센터를 성공적으로 구축할 수 있습니다. BlueField-3 DPU에 배포되는 F5 BIG-IP Next for Kubernetes는 원활한 통합, 강화된 보안, 향상된 성능을 제공하므로 Llama 3와 같은 대규모 LLM을 비롯한 AI 워크로드에 적합한 매력적인 옵션입니다.
자세한 내용은 보도 자료와 NVIDIA 블로그 게시물을 참조하세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.