Kubernetes에서 인공지능(AI) 및 머신러닝(ML) 워크로드를 실행할 때 얻을 수 있는 주요 이점 중 하나는 Ingress Controller를 통해 모든 수신 요청을 중앙에서 제어할 수 있다는 점입니다. Ingress Controller는 로드 밸런서와 API 게이트웨이 역할을 하는 다목적 모듈로, Kubernetes 환경에서 AI/ML 애플리케이션을 안전하게 보호하기 위한 견고한 기반을 제공합니다.
통합 도구인 Ingress Controller는 보안 및 성능 조치를 적용하고, 활동을 모니터링하며, 규정 준수를 의무화하기에 편리한 접점입니다. 보다 구체적으로, Kubernetes 환경에서 Ingress Controller를 통해 AI/ML 애플리케이션을 보호하면 여러 전략적 이점을 얻을 수 있으며, 이 블로그에서 이에 대해 살펴보겠습니다.
중앙 집중식 보안 및 규정 준수 관리
Ingress Controller는 Kubernetes 클러스터의 게이트웨이 역할을 하므로 MLOps 및 플랫폼 엔지니어링 팀이 보안 정책을 중앙에서 일관되게 적용할 수 있도록 지원합니다. 이를 통해 각 Pod 또는 서비스별로 보안 설정을 구성하는 복잡성을 줄일 수 있습니다. Ingress 수준에서 보안 제어를 중앙 집중화하면 규정 준수 프로세스가 간소화되고 규정 준수 상태를 더욱 쉽게 관리하고 모니터링할 수 있습니다.
통합 인증 및 권한 부여
Ingress Controller는 모든 AI/ML 애플리케이션에 대한 액세스 인증 및 권한 부여를 구현하고 적용하기에 적합한 논리적 위치이기도 합니다. 강력한 인증 기관 관리를 추가하면 Ingress Controller는 Kubernetes를 위한 제로 트러스트(ZT) 아키텍처를 구축하는 데 핵심적인 역할도 합니다. ZT는 매우 가치 있는 독점 데이터를 기반으로 실행되는 민감한 AI 애플리케이션의 지속적인 보안과 규정 준수를 보장하는 데 매우 중요합니다.
속도 제한 및 액세스 제어
Ingress Controller는 속도 제한을 적용하기에 이상적인 지점으로, DDoS 공격이나 과도한 API 호출과 같은 악용으로부터 애플리케이션을 보호합니다. 이는 외부에 공개되는 AI/ML API에 매우 중요합니다. 모델 탈취 및 데이터 유출과 같은 새로운 AI 위협이 증가함에 따라 무차별 대입 공격을 방어하기 위한 속도 제한 및 액세스 제어의 중요성도 더욱 커지고 있습니다. 또한 공격자가 비즈니스 로직을 악용하거나 가드레일을 탈옥하여 데이터와 모델 학습 정보 또는 가중치 정보를 빼내는 것을 방지하는 데도 도움이 됩니다.
웹 애플리케이션 방화벽(WAF) 통합
많은 Ingress Controller가 WAF와의 통합을 지원하며, 이는 외부에 노출된 애플리케이션과 서비스를 보호하기 위한 필수 요건입니다. WAF는 OWASP 10과 같은 일반적인 웹 취약점과 공격에 대응하는 추가 보안 계층을 제공합니다. 더욱 중요한 점은 WAF를 적절히 조정하면 AI/ML 애플리케이션을 겨냥한 보다 표적화된 공격도 방어할 수 있다는 것입니다. 지연 시간과 성능이 중요한 AI/ML 앱에서는 WAF로 인해 발생할 수 있는 오버헤드를 반드시 고려해야 합니다. 또한 AI/ML 앱을 효과적으로 보호하려면 모니터링 및 관측성 대시보드와 알림 체계를 위해 WAF가 Ingress Controller와 긴밀하게 통합되어야 합니다. WAF와 Ingress Controller가 공통 데이터 플레인을 공유할 수 있다면 가장 이상적입니다.
결론: AI/ML 아키텍처 계획 초기 단계부터 Ingress Controller 고려하기
Ingress Controller는 AI/ML 앱을 위한 Kubernetes 애플리케이션 배포에서 매우 중요한 역할을 하므로, AI/ML 애플리케이션을 설계할 때 그 기능을 함께 고려하는 것이 좋습니다. 이를 통해 기능 중복을 줄이고 AI/ML 애플리케이션의 요구 사항에 맞춰 확장하고 발전할 수 있는 Ingress Controller를 더 적절하게 선택할 수 있습니다. MLOps 팀에게 Ingress Controller는 여러 핵심 플랫폼 및 운영 기능을 관리하는 중앙 제어 지점이 되며, 보안은 그중에서도 최우선 과제입니다.
NGINX 시작하기
NGINX는 고객의 요구 사항을 충족하고 Kubernetes 플랫폼의 보안, 확장성 및 관측 가능성을 향상하는 데 필요한 포괄적인 도구와 구성 요소를 제공합니다.
지금 바로 Connectivity Stack for Kubernetes 30일 무료 평가판을 신청하여 시작해 보세요.
작성자 소개
관련 블로그 게시물
시청하기: KubeCon North America 2023에서의 NGINX Gateway Fabric
이 영상에서는 KubeCon의 NGINX 부스를 찾아가, 저희가 공개한 Kubernetes Gateway API 구현을 살펴봅니다.
F5 NGINX로 대규모 WAF 플릿을 확인하고 관리하는 2가지 방법
앱 보안을 강화하는 두 가지 방법을 소개합니다. NGINX Management Suite를 통해 WAF 운영에 대한 가시성을 높이고, NGINX App Protect WAF를 활용해 코드형 보안을 구현하는 것입니다.
Ingress 컨트롤러 선택 가이드, 4부: NGINX Ingress Controller 옵션
개발 주체, 개발 철학, 프로덕션 환경 준비도, 보안 및 지원을 기준으로 어떤 NGINX Ingress 컨트롤러가 가장 적합한지 알아보세요.
진화하는 공격 환경에 NGINX App Protect Denial of Service가 적응하는 방법
NGINX App Protect Denial of Service(DoS)가 계층 7 DoS 공격을 방어하기 위해 완화 방법을 실시간으로 조정하는 방식을 설명합니다. 정상적인 사용자 행동과 서버 상태에 대한 모델을 생성하여 공격을 나타내는 이상 징후를 감지하고 맞춤형 완화 시그니처를 적용할 수 있습니다.
NGINX Instance Manager를 활용한 대규모 구성 업데이트 및 인증서 관리
NGINX Instance Manager 버전 1.0에는 두 가지 새로운 기능이 도입되었습니다. NGINX 인스턴스에 태그와 사용자 역할을 지정하면 전체 그룹에 구성을 한 번에 적용할 수 있습니다. 인증서 검사는 만료 예정인 인증서를 감지하여 서비스 중단을 방지할 수 있도록 인증서를 교체할 수 있게 해줍니다.
Netflix가 자사 CDN의 핵심으로 NGINX를 선택한 이유
Netflix가 글로벌 콘텐츠 전송 네트워크인 Open Connect의 스트리밍 미디어 기술로 NGINX를 선택한 이유를 NGINX 개발자 Gleb Smirnoff에게서 알아보세요.