AI를 위한 미래 지향적 Kubernetes 연결성
F5 NGINX One의 일부인 NGINX Gateway Fabric은 기본 제공되는 거버넌스 및 보안 기능과 함께 앱, API 및 모델 인식 라우팅을 제공합니다.
AI 지원 Kubernetes 연결을 위해 설계
AI 워크로드를 위한 모델 인식 라우팅
AI 추론 워크로드는 예측하기 어렵습니다. 프롬프트마다 크기와 컴퓨팅 집약도가 달라 기존 라우팅 방식으로는 효율적으로 처리하기 어렵습니다. 정적 부하 분산은 백엔드에 과부하를 일으키거나 리소스 활용도를 떨어뜨릴 수 있습니다. NGINX Gateway Fabric은 모델 인식 라우팅을 지원하여 모델 유형, 비용/성능 프로필 및 런타임 신호를 기반으로 트래픽을 전달함으로써 효율적이고 확장 가능한 AI 서비스를 제공합니다.
- 모델 및 워크로드 유형별 라우팅: 모델 유형, 버전 또는 기타 매개변수를 기반으로 요청을 전달하여 최적의 백엔드를 선택하고 리소스를 효율적으로 활용할 수 있습니다.
- 가변적인 AI 워크로드 처리: 변동하는 프롬프트 크기와 컴퓨팅 수요에 동적으로 대응하여 과부하를 방지하는 동시에 일관된 성능을 유지합니다.
- 성능 및 효율성 향상: 캐시 및 대기열 깊이와 같은 실시간 지표를 기반으로 요청을 가장 적합한 백엔드로 라우팅하여 지연 시간과 처리량을 최적화합니다.
F5 AI Guardrails 및 F5 WAF와 NGF 통합
- 고급 AI 위협 완화: 수신 트래픽을 검사하고 필터링하여 프롬프트 인젝션 및 탈옥 공격이 대규모 언어 모델에 도달하기 전에 클러스터 엣지에서 직접 차단합니다.
- 민감한 데이터 보호: 모델 응답을 통해 개인 식별 정보(PII)와 지적 재산이 유출되지 않도록 엄격한 아웃바운드 정책을 적용합니다.
- 통합 WAF 보호: 개발자 친화적인 GitOps 워크플로를 통해 엔터프라이즈급 웹 애플리케이션 방화벽(WAF) 보호를 적용하여 위협을 기본적으로 차단합니다.
- 선언적 규정 준수: 보안 팀이 전역 규정 준수 및 보호 정책을 작성하고, 애플리케이션 팀이 Kubernetes 네이티브 사용자 정의 리소스를 통해 이를 안전하게 배포할 수 있도록 지원합니다.
표현력 높은 트래픽 제어
기존 인그레스는 어노테이션에 크게 의존하기 때문에 구성이 파편화되고 관리하기 어려워집니다. NGINX Gateway Fabric은 표현력이 뛰어난 Kubernetes 네이티브 CRD를 도입하여 여러 팀과 환경에서 일관되고 재사용 가능하며 선언적인 트래픽 정책을 구현할 수 있도록 지원합니다.
- 어노테이션 대신 CRD 사용: 분산된 어노테이션을 구조화된 Kubernetes 네이티브 API로 대체하여 가독성과 일관성을 높이고 장기적인 유지보수성을 개선합니다.
- 재사용 가능한 트래픽 정책: 라우팅 및 트래픽 정책을 한 번 정의한 후 여러 환경에서 재사용하여 중복과 구성 불일치를 줄입니다.
- 선언적 구성 모델: Kubernetes 모범 사례에 부합하는 버전 관리형 선언적 리소스를 사용하여 트래픽을 관리합니다.
플랫폼 팀을 위한 역할 기반 제어
팀 규모가 커질수록 공유 인프라 관리는 복잡해지고 오류가 발생하기 쉬워집니다. NGINX Gateway Fabric은 플랫폼과 애플리케이션의 관심사를 분리하는 역할 중심 리소스를 도입하여, 중앙 집중식 거버넌스와 제어를 유지하면서도 안전하게 권한을 위임할 수 있도록 합니다.
- 명확한 역할 분리: 플랫폼 팀은 인프라와 정책을 정의하고, 개발자는 애플리케이션별 라우팅을 안전하게 제어할 수 있습니다.
- 안전한 셀프서비스 지원: 팀이 가드레일 내에서 서비스를 독립적으로 배포하고 관리할 수 있도록 하여 병목 현상과 위험을 줄입니다.
- 대규모 환경에서도 일관된 거버넌스: 개별 애플리케이션의 유연성을 유지하면서 여러 클러스터와 팀에 중앙 집중식 정책을 적용합니다.
중단 없이 인그레스를 넘어 진화하세요
NGINX Gateway Fabric은 트래픽 관리를 위한 미래 지향적 모델을 제공하여, 팀이 기존 인그레스 패턴과 익숙한 운영 방식을 기반으로 Kubernetes 연결을 현대화할 수 있도록 지원합니다.
- 차세대 인그레스 모델: 최신 애플리케이션과 변화하는 워크로드에 맞게 설계된, 더욱 유연하고 확장 가능한 트래픽 관리 방식을 도입하세요.
- 최신 워크로드에 최적화: 고급 라우팅, 정책 제어 및 확장성을 통해 앱, API, AI 사용 사례를 지원합니다.
- 유연한 도입: Ingress와 Gateway API를 함께 운영하세요. 기존 Ingress 워크플로를 중단 없이 유지하면서 새 앱에는 Gateway API를 사용할 수 있습니다.
GatewayLink - BIG-IP를 Kubernetes로 확장
- 구성 변경 반복 제거: 안정성이 매우 높은 단일 NGINX 엔드포인트를 제공하여 동적 Kubernetes 파드의 지속적인 IP 변경으로부터 외부 BIG-IP 하드웨어를 보호합니다.
- NetOps와 DevOps를 연결: NetOps는 BIG-IP 엣지에서 안전한 제어를 유지하는 한편, DevOps는 내부 애플리케이션 라우팅을 위한 완전한 민첩성을 유지합니다.
- 최적화된 트래픽 흐름: 네트워크 엣지에서 Kubernetes 클러스터 내부까지 이어지는 인바운드 및 아웃바운드 트래픽 흐름을 간소화하여 지연 시간을 줄이고 멀티 클러스터 라우팅 아키텍처를 단순화합니다.
제품 개요
효율적인 Kubernetes 거버넌스
NGINX Gateway Fabric은 Gateway API를 사용하여 대규모 트래픽을 관리하고 Kubernetes에서 애플리케이션을 제공합니다. 플랫폼 팀은 액세스를 제어하고 애플리케이션 팀은 라우팅을 정의할 수 있어, 클러스터 내 서비스에 애플리케이션을 안전하고 일관되게 제공할 수 있습니다.
NGINX Gateway Fabric 제품 문서핵심 기능
NGINX Gateway Fabric은 고급 라우팅, 정책 제어 및 모델 인식 트래픽 관리를 통해 Gateway API를 제공하며, 관측 가능성, 보안 및 안정성을 위한 NGINX Plus 기능으로 한층 강화됩니다.
고급 L7 라우팅
호스트, 경로, 헤더 및 메서드를 기준으로 트래픽을 라우팅합니다.
트래픽 분할
가중치 기반 라우팅으로 카나리 릴리스를 활성화하세요.
모델 인식형 라우팅
모델 유형, 버전 또는 비용/성능 프로필에 따라 AI 트래픽을 라우팅합니다.
정책 기반 거버넌스
재사용 가능한 트래픽 및 보안 정책을 적용하세요.
역할 기반 액세스 제어
플랫폼 수준과 앱 수준의 책임을 분리합니다.
실시간 관측성
메트릭과 실시간 인사이트를 통해 트래픽을 모니터링하세요.
동적 재구성
다시 로드하지 않고 라우팅을 즉시 업데이트하세요.
기본 제공 보안 제어
TLS, mTLS 및 인증 정책을 적용합니다.
리소스
추천
NGINX Gateway Fabric, Gateway API Inference Extension 지원
NGINX Gateway Fabric은 Kubernetes에서 지능형 추론 인식 라우팅을 지원하기 위해 Gateway API용 Inference 확장을 지원합니다.
블로그 읽기