F5 NGINX Gateway Fabric으로 AI 제공 표준화

F5 ADSP | 2026년 6월 19일

기업들은 AI 실험 단계에서 AI 운영 단계로 빠르게 전환하고 있습니다. 이러한 변화로 인해 조직이 애플리케이션 제공 인프라에 요구하는 사항도 달라지고 있습니다.

수년 동안 Kubernetes 트래픽 관리는 기술적인 구현 세부 사항으로 취급되는 경우가 많았습니다. 플랫폼 팀은 인그레스 컨트롤러를 선택하고, 애플리케이션 팀은 경로를 구성했으며, 보안 팀은 가능한 범위에서 제어 기능을 추가했습니다. 주요 과제가 웹 앱과 API를 제공하는 것이었을 때는 이러한 모델이 효과적이었습니다. 하지만 이제 동일한 플랫폼에서 최신 애플리케이션, 분산 API, 보안 정책은 물론 희소하고 비용이 많이 드는 컴퓨팅 리소스를 사용하는 AI 추론 워크로드까지 지원해야 하는 상황에서는 충분하지 않습니다.

The 2026 F5 애플리케이션 전략 현황 보고서에 따르면 이것이 지금 중요한 이유를 알 수 있습니다. 조직의 78%가 AI 추론을 직접 운영하고 있으며, 52%는 AI 모델을 조정하고 확장하기 위해 다중 모델 오케스트레이션을 사용하고 있습니다. 실질적으로 기업은 단일 서비스를 통해 단일 모델을 호출하는 데 그치지 않습니다. 여러 환경에서 추론을 실행하고, 여러 모델을 조율하며, AI를 프로덕션 애플리케이션 아키텍처의 일부로 통합하고 있습니다.

AI는 기업이 오랫동안 직면해 온 과제, 즉 거버넌스와 보안, 운영 일관성을 유지하면서도 팀에 필요한 속도를 어떻게 제공할 것인가라는 문제에 새로운 시급성을 더합니다.

F5 NGINX Gateway Fabric은 세 가지 중요한 기능, 즉 Gateway API 1.5 준수, F5 WAF for NGINX과의 통합, Gateway API Inference Extension 지원을 결합하여 이 질문에 대한 해답을 제시합니다. 이러한 기능을 통해 Kubernetes 트래픽 관리를 더욱 표준화되고 안전하며 AI에 최적화된 방식으로 수행할 수 있습니다.

“게이트웨이는 더 이상 단순히 트래픽을 클러스터로 유입시키는 역할에만 머물지 않습니다. 이제 게이트웨이는 최신 애플리케이션, API 및 AI 서비스를 대규모로 제공하고 보호하며 운영하는 방식을 제어하는 핵심 지점으로 자리 잡고 있습니다.”

표준이 중요한 이유

Gateway API는 너무 많은 팀이 동일한 문제를 서로 다른 방식으로 해결하는 기업의 고질적인 과제를 해소하기 때문에 Kubernetes 트래픽 관리를 위한 중요한 표준으로 자리 잡고 있습니다.

기존의 인그레스 방식은 구현체별 어노테이션과 사용자 지정 구성에 크게 의존하는 경우가 많습니다. 개별 팀에서는 이러한 방식이 효과적일 수 있지만, 엔터프라이즈 규모에서는 관리가 더욱 어려워집니다. 정책을 감사하기 어렵고 마이그레이션 경로도 더 복잡해집니다. 플랫폼 팀은 통제권을 유지하면서 셀프서비스를 제공하는 데 어려움을 겪을 수 있습니다. 애플리케이션 팀은 빠르게 움직일 수 있지만, 운영 모델은 파편화됩니다.

Gateway API는 역할 중심의 Kubernetes 네이티브 모델을 도입합니다. 플랫폼 팀은 공유 게이트웨이 인프라를 관리할 수 있고, 애플리케이션 팀은 자체 서비스의 라우팅을 정의할 수 있습니다. 보안 및 운영 팀은 정책을 적용하기 위한 더욱 명확한 구조를 확보할 수 있습니다. 그 가치는 단순히 기술적 완성도에만 있는 것이 아니라, 더 체계적인 운영 모델을 제공한다는 데 있습니다.

이러한 맥락에서 NGINX Gateway Fabric이 Gateway API 1.5를 준수한다는 점은 중요합니다. 규격 준수가 모든 구현이 동일하다는 의미는 아니며, 아키텍처 관련 의사 결정의 필요성을 없애 주는 것도 아닙니다. 하지만 기업은 Kubernetes 생태계 전반에서 성숙해지고 검증되고 있는 표준을 기반으로 구축하고 있다는 확신을 더 크게 가질 수 있습니다.

그 중요성은 명확합니다. 표준은 불필요한 복잡성을 줄여 줍니다. 또한 플랫폼 관련 결정을 여러 팀과 클러스터로 더 쉽게 확장할 수 있게 하고, 모든 워크플로가 독점적인 방식에 종속될 위험을 낮춰 줍니다. 나아가 장기적인 현대화를 위한 기반을 마련하여, 모든 애플리케이션을 한꺼번에 전환하지 않고도 팀이 새로운 트래픽 관리 모델을 도입할 수 있게 합니다.

이는 대기업에서 Kubernetes가 단일 클러스터만으로 운영되는 경우가 드물기 때문에 중요합니다. 조직은 흔히 여러 사업부, 지역, 개발 단계 및 클라우드 환경에 걸쳐 다수의 클러스터를 운영합니다. 공통된 접근 방식이 없으면 각 클러스터가 저마다 예외적인 환경이 될 수 있습니다. NGINX Gateway Fabric을 통해 구현되는 Gateway API는 플랫폼 팀이 애플리케이션 제공 속도를 늦추지 않으면서 일관성을 제공할 수 있는 방안을 제시합니다.

앱이 실행되는 곳에서의 보안

보안은 배포 후에 덧붙이는 것보다 플랫폼에 내재화할 때 가장 강력한 경우가 많습니다. 애플리케이션 팀이 셀프서비스와 빠른 릴리스 주기를 기대하는 Kubernetes에서는 특히 그렇습니다.

NGINX Gateway Fabric과 F5 WAF for NGINX의 통합을 통해 엔터프라이즈 애플리케이션 보안을 Kubernetes 게이트웨이 계층에 더욱 가깝게 적용할 수 있습니다. 이 통합을 활용하면 보안 팀은 애플리케이션 보호 정책을 정의하고 관리할 수 있으며, 플랫폼 팀은 Kubernetes 네이티브 워크플로를 통해 이러한 보호 기능을 제공할 수 있습니다.

비즈니스 가치는 모든 IT 리더가 정책이 적용되는 기술적 메커니즘을 이해해야 한다는 데 있지 않습니다. 진정한 가치는 보안 팀이 보호 정책에 대한 주도권을 유지하면서도 플랫폼 및 애플리케이션 팀이 계속해서 신속하게 업무를 추진할 수 있다는 데 있습니다.

이러한 책임 분리는 매우 중요합니다. 보안이 모든 애플리케이션 팀의 올바른 통제 구현에 의존하면 기업 전반의 보호 수준이 일관되지 않게 됩니다. 보안 때문에 모든 릴리스가 지연되면 팀은 우회 방법을 찾게 됩니다. 더 나은 모델은 공동 거버넌스입니다. 보안 팀은 정책을 정의하고 관리하고, 플랫폼 팀은 정책 집행 지점을 제공하며, 애플리케이션 팀은 소프트웨어를 지속적으로 제공하는 방식입니다.

고객 대면 애플리케이션, API, AI 기반 서비스가 Kubernetes로 더 많이 이전됨에 따라 이는 특히 중요해집니다. 플랫폼의 전략적 중요성이 커질수록 위험 범위도 확대됩니다. 웹 애플리케이션 공격, 잘못된 구성, 관리되지 않는 경로, 일관되지 않은 보안 태세는 단순한 기술적 문제에 그치지 않고 비즈니스 연속성, 규정 준수, 평판과 관련된 문제로 이어집니다.

게이트웨이 수준의 WAF 모델이 안전한 개발 관행이나 포괄적인 애플리케이션 보안 프로그램을 대체하는 것은 아닙니다. 하지만 애플리케이션이 제공되는 지점과 가까운 곳에 조직이 실질적으로 보안 정책을 적용할 수 있는 계층을 마련해 줍니다. 즉, 보안이 모든 배포를 일일이 뒤쫓아야 하는 별도의 프로세스가 아니라 플랫폼 아키텍처의 일부가 될 수 있습니다.

AI 추론 준비

AI 추론 워크로드는 기존 웹 요청과 다르게 동작하므로 트래픽 관리 방식도 달라집니다.

일반적인 웹 요청은 대개 처리 시간이 짧고 비교적 예측 가능합니다. 반면 추론 요청은 처리 시간, 페이로드 크기, 비용, 리소스에 미치는 영향이 크게 달라질 수 있습니다. 단일 요청만으로도 고가의 GPU 용량이 장시간 점유될 수 있습니다. 작업에 따라 여러 모델을 사용할 수도 있습니다. 일부 모델은 비용에, 일부는 성능에, 또 일부는 정확도에 최적화될 수 있습니다. 라우팅 결정은 사용자 경험, 인프라 활용도, 운영 비용에 영향을 미칠 수 있습니다.

이것이 바로 Gateway API Inference Extension이 중요한 이유입니다. 이 확장 기능은 모델 인식 라우팅을 지원하여 모델 버전, 모델 유형, 비용 대비 성능 프로필에 따라 요청을 전달할 수 있게 합니다. NGINX Gateway Fabric을 지원하면 조직은 사용자 경험과 인프라 활용도를 개선하는 동시에, 중요도가 낮거나 지연 시간에 덜 민감한 요청을 비용 효율성이 더 높은 모델로 라우팅할 수 있습니다.

핵심은 기반이 되는 스케줄링 메커니즘이 아닙니다. AI 제공에 운영 성숙도가 필요하다는 점입니다. 조직의 78%가 AI 추론을 자체적으로 운영하는 상황에서 추론은 더 이상 데이터 과학만의 문제가 아닙니다. 이제 추론은 엔터프라이즈 애플리케이션 제공 스택의 일부가 됩니다. 또한 52%가 멀티 모델 오케스트레이션을 사용하고 있는 만큼, 트래픽 관리에서는 더욱 역동적인 AI 환경을 고려해야 합니다.

추론 확장 기능에 대한 NGINX Gateway Fabric 지원을 통해 플랫폼 및 머신 러닝 팀은 AI 워크로드를 익숙한 Kubernetes 운영 모델에 통합할 수 있습니다. 조직은 AI를 위한 별도의 전송 아키텍처를 구축하는 대신, 표준에 부합하는 게이트웨이 방식을 사용하여 앱 및 API와 함께 AI 서비스를 관리할 수 있습니다.

그렇다고 해서 기업의 모든 AI 과제를 게이트웨이에서 해결할 수 있다는 의미는 아닙니다. 모델 거버넌스, 데이터 거버넌스, 보안 테스트, 비용 관리, 규정 준수에는 여전히 더 광범위한 통제가 필요합니다. 하지만 라우팅은 AI 프로덕션 환경의 기반을 이루는 요소입니다. 요청이 효율적으로 전달되지 않거나, 인프라 신호가 무시되거나, 각 팀이 추론을 위한 경로를 제각기 구축한다면 복잡성은 빠르게 가중됩니다.

가장 중요한 변화는 아키텍처 차원의 변화입니다. 즉, AI는 안전하고 관찰 가능하며 정책에 따라 제공되어야 하는 또 하나의 프로덕션 워크로드 유형이 됩니다.

AI 시대를 위한 현대적인 애플리케이션 제공

NGINX Gateway Fabric은 단순한 Kubernetes 네트워킹 구성 요소로만 평가해서는 안 됩니다. 현대적인 애플리케이션 제공을 위한 더 광범위한 플랫폼 전략의 일부로 바라봐야 합니다.

Gateway API 1.5 적합성, F5 WAF for NGINX 통합, Inference Extension 지원의 조합이 중요한 이유는 다음 세 가지 우선순위를 연결하기 때문입니다:

표준화: Kubernetes 트래픽 관리를 성숙해 가는 커뮤니티 표준에 맞춰 파편화를 줄입니다.
보안: Kubernetes 애플리케이션이 외부에 노출되는 지점과 더 가까운 곳에 엔터프라이즈 애플리케이션 보호 기능을 적용합니다.
AI 준비도: 기존 서비스보다 더 동적이고 리소스 집약적이며 비즈니스에 중요한 추론 워크로드에 대비할 수 있도록 전송 계층을 준비합니다.

실질적인 이점은 더욱 일관된 운영 모델을 구축할 수 있다는 것입니다. 플랫폼 엔지니어링 팀은 공유 인프라와 셀프서비스 패턴을 제공할 수 있습니다. 애플리케이션 팀은 자체 트래픽 모델을 새로 만들지 않고도 더 빠르게 작업할 수 있습니다. 보안 팀은 기존 제어 체계를 통해 정책을 적용할 수 있습니다. 머신러닝 팀은 AI 제공을 일회성 아키텍처로 취급하지 않고 추론 워크로드를 Kubernetes에 도입할 수 있습니다.

이는 AI 도입의 다음 단계가 조직이 얼마나 많은 파일럿 프로젝트를 시작했는지만으로 평가되지 않을 것이기 때문에 중요합니다. AI 기반 애플리케이션이 프로덕션 환경에서 얼마나 안정적이고 안전하며 효율적으로 운영되는지가 평가 기준이 될 것입니다.

많은 기업은 이미 Kubernetes 플랫폼, 애플리케이션 전송 인프라, 보안 프로그램, AI 이니셔티브, 그리고 각 영역을 담당하는 팀 등 필요한 요소를 갖추고 있습니다. 과제는 이러한 요소를 확장 가능한 방식으로 통합하는 것입니다. NGINX Gateway Fabric은 기존 애플리케이션, API, 보안 정책 및 새롭게 부상하는 AI 추론 패턴을 지원할 수 있는 표준 기반 게이트웨이 계층을 제공하여 조직이 이러한 과제를 해결하도록 돕습니다.

이는 실질적인 가치를 제공합니다. 조직은 처음부터 다시 시작하거나 애플리케이션 딜리버리 아키텍처를 전면 재구축할 필요가 없습니다. Kubernetes 트래픽 관리를 더욱 일관되고 안전하며 AI 워크로드에 더 잘 대비된 모델로 발전시킬 수 있습니다. 이를 통해 Kubernetes 트래픽 관리를 더욱 일관되고 안전하며 AI 워크로드에 더 잘 대비된 모델로 발전시킬 수 있는 경로를 확보할 수 있습니다.

AI가 엔터프라이즈 애플리케이션에 더욱 깊이 통합됨에 따라 인프라에 대한 논의도 이에 발맞춰 발전해야 합니다. 이제 게이트웨이는 단순히 트래픽을 클러스터로 유입시키는 역할에 그치지 않습니다. 현대적인 애플리케이션, API 및 AI 서비스를 대규모로 제공하고 보호하며 운영하는 방식을 제어하는 핵심 지점으로 자리 잡고 있습니다.

자세히 알아보려면 F5 NGINX Gateway Fabric 웹페이지를 방문하세요.

또한 F5 AI Summit에도 꼭 참석해 주세요. 6월 23일 화요일에 열리는 3시간짜리 온라인 행사로, ‘F5 NGINX로 Kubernetes에서 AI 제공하기’ 세션에서 Kubernetes 기반 AI 워크로드 제공에 대해 심도 있게 다룰 예정입니다.