조직이 혁신에 속도를 내고 자율주행차나 대규모 언어 모델(LLM)과 같은 AI 기반의 획기적인 제품을 개발함에 따라, 운영을 확장하고 경쟁력을 유지하려면 효율적인 인프라가 필수적입니다. 전통적으로 데이터 센터는 범용 컴퓨팅에는 중앙 처리 장치(CPU)를, AI와 머신 러닝의 핵심인 고강도 병렬 처리 작업에는 그래픽 처리 장치(GPU)를 사용하는 데 주력해 왔습니다. AI 모델의 규모와 복잡성이 증가하면서 데이터 센터는 새로운 컴퓨팅 단위로 자리 잡았고, 기존 클라우드 네트워크의 한계를 넓히고 있습니다. 데이터 센터 규모의 컴퓨팅으로 전환하기 위해 데이터 처리 장치(DPU)가 컴퓨팅의 세 번째 핵심 축으로 부상했습니다.
AI 팩토리의 부상
앞서 AI 팩토리 시리즈에서 F5는 AI 팩토리를 대규모·고성능 학습 및 추론 요구 사항을 충족하기 위한 스토리지, 네트워킹, 컴퓨팅 분야의 막대한 투자로 정의했습니다. 기존 제조 공장과 마찬가지로 AI 팩토리는 사전 학습된 AI 모델을 활용해 원시 데이터를 인텔리전스로 변환합니다.
데이터 처리 장치(DPU)란 무엇인가요?
DPU는 네트워크의 회선 속도에 맞춰 하드웨어 가속을 통해 방대한 데이터 이동과 처리를 수행하도록 설계된 프로그래밍 가능한 프로세서입니다. 2024년 말, 당사는 NVIDIA BlueField-3 DPU에 배포되는 BIG-IP Next for Kubernetes를 발표했습니다. NVIDIA BlueField는 NVIDIA AI 팩토리를 구동할 목적으로 특별히 설계된 데이터 센터 인프라용 가속 컴퓨팅 플랫폼입니다. CPU가 컴퓨팅 애플리케이션을 위한 범용 컴퓨팅을 담당하고 GPU가 AI 관련 대규모 벡터 및 행렬 연산, 그래픽 렌더링과 같은 가속 컴퓨팅 작업에 탁월한 성능을 발휘하는 반면, NVIDIA BlueField DPU는 AI 클러스터의 호스트 또는 섀시에 네트워크 연결을 제공하는 PCIe(Peripheral Component Interconnect Express) 네트워크 인터페이스 카드(NIC)에 통합되는 경우가 많습니다. 즉, 이제 NIC는 본질적으로 서버로 들어오고 나가는 데이터를 처리하는 데 최적화된 강력한 프로세서가 되었습니다. 또한 여러 호스트 또는 섀시가 하나의 AI 클러스터에 포함된 경우 BlueField DPU는 클러스터 간 네트워킹 장치로도 작동할 수 있습니다.
“DPU는 네트워크의 회선 속도에 맞춰 하드웨어 가속을 통해 방대한 양의 데이터를 전송하고 처리하도록 설계된 프로그래밍 가능한 프로세서입니다.”
잠재력을 깨우다
BlueField DPU는 소프트웨어 정의 네트워킹, 스토리지 관리 및 보안 서비스를 처리하여 CPU의 연산 부담을 줄이고, CPU가 가장 잘 수행할 수 있는 작업에 집중하도록 합니다. 이러한 오프로딩 기능은 복잡한 AI 모델과 실시간 추론 작업의 요구 사항을 충족하기 위해 방대한 양의 데이터를 신속하게 처리하고 전송해야 하는 AI 팩토리에 매우 중요합니다.
BlueField DPU는 AI 팩토리의 에너지 효율성과 확장성을 크게 향상합니다. AI 팩토리에는 막대한 컴퓨팅 리소스가 필요하므로 전력과 냉각을 효율적으로 관리하는 것이 무엇보다 중요합니다. 특화된 가속 엔진과 고성능 네트워크 인터페이스를 갖춘 DPU는 지연 시간과 전력 소비를 최소화하면서 데이터를 처리하고 전송할 수 있도록 합니다. 이러한 효율성은 운영 비용을 절감할 뿐만 아니라 AI 팩토리를 효과적으로 확장할 수 있게 해줍니다. BlueField DPU를 활용하면 AI 팩토리와 대규모 인프라는 AI 기술의 지속적인 혁신과 배포를 지원하는 균형 잡힌 고성능·고효율 인프라를 구축할 수 있습니다.
AI 팩토리에서 BlueField DPU는 어디에 배포되나요?
When looking at F5의 AI 참조 아키텍처를 살펴보면, DPU는 일반적으로 RAG 코퍼스 관리, 미세 조정, 학습 및 추론 서비스의 기능 영역뿐만 아니라 이러한 기능을 지원하는 스토리지 클러스터에도 배포됩니다. 또한 DPU는 고성능 데이터 처리량과 전력 효율성이 요구되는 다양한 애플리케이션에 활용되며, 5G 무선 액세스 네트워크(RAN) 구축을 지원하는 사례도 있습니다.
DPU가 일반적으로 배포되는 영역을 강조한 F5 AI 참조 아키텍처입니다.
애플리케이션 전송 및 보안 기능을 DPU로 오프로드하고 가속화
AI 팩토리의 효율적인 트래픽 관리와 강력한 보안에 대한 새로운 요구사항은 보안 위협을 방지하기 위해 데이터 흐름과 강화된 인프라에 중점을 두는 중요한 변화를 의미합니다. NVIDIA BlueField-3 DPU에 배포된 F5 BIG-IP Next for Kubernetes는 CPU에서 DPU로 데이터 이동을 오프로드하고 가속하여 지연 시간이 짧고 처리량이 높은 연결을 지원합니다. 또한 방화벽, DDoS 완화, WAF, API 보호, 침입 방지와 같은 포괄적인 보안 기능을 프로그래밍 가능한 NVIDIA BlueField-3 DPU에 직접 통합합니다. 이를 통해 AI 모델과 앱을 위협으로부터 격리하는 아키텍처를 구축하여 데이터 무결성과 주권을 보장할 수 있습니다.
BIG-IP Next for Kubernetes는 멀티테넌시를 지원하므로 단일 인프라에서 여러 사용자와 AI 워크로드를 호스팅하는 동시에 네트워크를 격리할 수 있습니다. BIG-IP Next for Kubernetes는 네트워킹, 트래픽 관리, 보안 및 멀티테넌트 환경을 관리하는 중앙 집중식 지점을 제공하므로 대규모 AI 인프라를 간편하게 관리할 수 있습니다. 또한 네트워크 가시성과 성능 최적화를 위한 상세한 트래픽 데이터를 제공하여 운영을 간소화하고 운영 비용을 절감합니다. BIG-IP Next for Kubernetes와 NVIDIA BlueField-3 DPU의 통합은 도구의 난립과 운영 복잡성을 줄이는 동시에 AI 팩토리가 잠재력을 최대한 발휘하도록 지원합니다.
F5 기반
AI에 투자하는 기업에게 인프라의 최적화와 보안은 타협할 수 없는 필수 요소입니다. NVIDIA BlueField-3 DPU에 배포된 F5 BIG-IP Next for Kubernetes는 고성능, 확장성 및 보안을 제공하여 대규모 AI 인프라의 투자 수익을 극대화하는 전략적 투자입니다. AI 팩토리 투자를 지원하기 위해 GPU와 DPU를 배포하는 조직은 F5에 문의하여 BIG-IP Next for Kubernetes가 AI 워크로드를 어떻게 향상할 수 있는지 알아보십시오.
AI를 향한 F5의 노력은 여기서 끝나지 않습니다. F5가 어디서나 AI 앱을 보호하고 제공하는 방법을 알아보세요.
AI 팩토리에 대해 더 자세히 알아보고 싶으신가요? AI 팩토리 블로그 시리즈의 다른 글도 살펴보세요:
- AI 팩토리란 무엇인가요? ›
- AI 팩토리를 위한 검색 증강 생성(RAG) ›
- AI 팩토리 데이터 수집을 위한 트래픽 관리 최적화 ›
- 엣지 데이터 소스를 AI 팩토리에 최적으로 연결하기 ›
- 멀티클라우드의 확장성과 유연성으로 AI 팩토리 지원 ›
- AI 팩토리를 위한 API 보호: AI 보안을 위한 첫걸음 ›
- AI 팩토리를 위한 네트워크 세분화의 중요성 ›
- AI 팩토리는 가장 현대적인 최신 앱, 즉 AI 앱을 만들어냅니다 ›
작성자 소개
Hunter Smit은 F5에서 솔루션 및 전략 부문 제품 마케팅을 담당하는 시니어 매니저입니다. AI 인프라와 애플리케이션 보안을 비롯한 F5 포트폴리오 전반의 솔루션 마케팅을 이끌고 있으며, F5의 신흥 AI 데이터 전송 시장 진출을 주도하고 있습니다. Hunter는 Whitworth University 경영대학 자문위원회 위원이며, 제품 마케팅 겸임 강사로도 활동했습니다. Whitworth University에서 경영학 석사(MBA)와 경영학 학사 학위를 취득했습니다.
Hunter Smit의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.