데이터 처리 장치(DPU)란 무엇인가요?

데이터 처리 장치(DPU)는 데이터 중심 작업을 대신 처리하고 가속하도록 설계된 특수 프로세서로, 중앙 처리 장치(CPU)가 애플리케이션별 워크로드를 처리하는 데 집중할 수 있도록 합니다. 고속 네트워킹, 스토리지 요청 및 보안 처리를 수행하도록 설계된 DPU는 현대적인 고밀도 데이터 센터와 고성능 컴퓨팅(HPC) 환경의 요구 사항에 적합합니다.

DPU 심층 이해

DPU와 이에 대응하는 인프라 처리 장치(IPU)는 일반적이면서 처리량 집약적인 작업을 CPU에서 분리해야 하는 요구를 충족합니다. 암호화 작업, 스토리지 I/O 작업, 고대역폭 네트워크 패킷 처리의 부담을 줄이면 CPU는 컨테이너 기반 애플리케이션, 클라우드 또는 하이퍼바이저 파티셔닝, 인공지능(AI) 연산 집약적 작업에 필요한 고밀도 애플리케이션 작업에 집중할 수 있습니다.

주요 기능은 다음과 같습니다:

네트워킹: 스마트 네트워크 인터페이스 카드(SmartNIC)의 기능을 기반으로 하는 DPU는 대용량 패킷 흐름을 회선 속도에 가까운 속도로 처리하고, VXLAN을 비롯한 네트워크 오버레이 오프로딩을 제공하며, 방화벽 지원, TLS 오프로딩, 부하 분산, 트래픽 라우팅과 같은 보안 및 애플리케이션 전송 컨트롤러 서비스를 제공합니다. 또한 DPU는 암호학적으로 안전한 의사 난수 생성기(CSPRNG)를 위한 엔트로피 소스를 제공할 수 있습니다.
스토리지: 호스트와 스토리지 간 데이터 전송을 가속하는 DPU는 NVMe-oF(Non-Volatile Memory Express over Fabrics)와 같은 고급 스토리지 프로토콜을 지원하여 솔리드 스테이트 스토리지와 하이퍼컨버지드 인프라(HCI)에 필요한 향상된 속도를 제공합니다. 또한 DPU는 암호화 및 복호화, 압축, 중복 제거 처리를 지원하여 CPU의 부하를 더욱 줄여 줍니다.
가상화: 하이퍼바이저 및 컨테이너 기반 네트워킹 작업을 오프로드하면 HCI 인프라를 파티셔닝하고 테넌트별로 분리하는 역량이 향상되어 워크로드 집적도를 높일 수 있으며, 인프라 투자 수익률도 향상됩니다.

DPU 사용의 이점

컴퓨팅 밀도와 전력 사용량이 인프라 비용 효율성을 평가하는 새로운 지표로 자리 잡으면서, HCI 및 HPC 환경에서 애플리케이션별 작업을 위한 CPU 성능 최적화가 갈수록 중요해지고 있습니다. 네트워크 속도 향상과 지연 시간 단축, 스토리지 성능 개선, 더 많은 사용자에게 컴퓨팅 리소스를 제공해야 할 필요성으로 인해 CPU가 처리해야 하는 비애플리케이션 작업의 부담도 더욱 커지고 있습니다. 현재 널리 인정되는 성공 지표는 HPC 업계에서 도입된 것으로, CPU 밀도와 성능을 기준으로 정의됩니다.

처리 성능 데이터 포인트의 비율에는 다음 항목이 포함되며, 이에 국한되지 않습니다:

CPU 코어 수(랙별, 노드별 또는 사용자가 이용할 수 있는 총 코어 수)
초당 부동소수점 연산 횟수(FLOPS)1
전력 소비량(평균 및 최대 킬로와트 단위로 측정)
물리적 공간 측정(제곱피트 또는 제곱미터 단위로 측정)

HPC 분야에서 슈퍼컴퓨터의 출시 시점 및 시간 경과에 따른 성능을 측정하는 데 오랫동안 사용되어 온 이러한 측정 방식은 두 산업의 기술이 계속 융합됨에 따라 기존 데이터 센터에도 점점 더 많이 적용되고 있습니다.

DPU는 CPU가 하위 수준의 비연산 작업까지 처리해야 할 때 병목 현상이 발생할 수 있는 애플리케이션 및 연산 집약적 파이프라인에서 CPU 가용성을 높이는 방법을 제공합니다. 밀도와 애플리케이션 작업이 증가하면 이러한 작업의 부담도 가중되므로, DPU를 통해 이 병목 현상을 완화할 수 있습니다. 데이터 센터 인프라에 DPU를 추가하면 CPU가 핵심 연산에 집중할 수 있어 코어당 성능이 향상됩니다. 또는 연산 리소스를 분할하고 테넌트별로 할당하여 더 많은 사용자가 시스템 리소스를 이용할 수 있도록 할 수 있습니다.

F5는 DPU와 어떻게 연동되나요?

SmartNIC, ASIC 및 FPGA 기술 활용을 통해 거둔 성공을 바탕으로, F5는 컴퓨팅 인프라 내 DPU의 처리 능력과 인라인 트래픽 처리 위치를 활용하여 HCI/HPC 인프라의 워크로드 용량, 성능 및 보안을 강화하고 개선합니다.

F5는 NVIDIA Bluefield-3 DPU를 활용하여 컴퓨팅 리소스의 활용도를 극대화하면서 대규모 컴퓨팅 환경을 구축하려는 서비스 제공업체와 대기업에 다양한 이점을 제공합니다. 이러한 이점은 다음을 포함하되 이에 국한되지 않습니다.

간소화된 통합: F5는 네트워킹, 보안, 트래픽 관리 및 부하 분산 기능을 DPU 통합에 최적화된 단일 서비스 제품군으로 제공합니다. 또한 HCI/HPC 인프라 전반에서 이러한 서비스를 통합적으로 파악할 수 있는 뷰와 함께, 컴퓨팅 집약적 워크로드를 최적화하는 데 필요한 관측 가능성과 세분화된 제어 기능을 제공합니다.
향상된 보안: F5는 방화벽, 분산 서비스 거부(DDoS) 공격 완화, API 보호, 암호화, 인증서 관리 등의 핵심 보안 기능을 DPU로 오프로드하여 지원합니다.
향상된 성능: F5는 네트워킹 및 보안 기능을 가속화하며, 이는 고밀도 인프라에서 요구되는 성능 요건을 충족하고 클라우드 규모로 애플리케이션을 제공하는 데 매우 중요합니다.
멀티테넌시 지원: F5는 확장 가능한 멀티테넌트 아키텍처를 지원하여 서비스 제공업체가 동일한 인프라에서 다수의 테넌트를 안전하게 호스팅하는 동시에 각 테넌트의 워크로드와 데이터를 서로 분리하고 안전하게 보호할 수 있도록 합니다.

DPU 및 F5 통합 솔루션에 대한 자세한 내용은 오른쪽의 자료를 클릭해 확인하세요.

1과학 기반 HPC의 표준 성능 측정에는 전통적으로 단정밀도 또는 배정밀도 부동소수점 정밀도(FP32 및 FP64)가 사용되었습니다. 현재 AI 분야에서는 반정밀도 이하(FP16)를 기준으로 성능을 측정하는 추세입니다. 더 낮은 정밀도의 메모리 주소 지정 방식(부동소수점 및 정수 데이터 형식)을 사용하면 언어 모델을 더 빠르게 학습하고 메모리 사용량을 줄일 수 있습니다.