지난 몇 달 동안 F5는 AI 팩토리에 대해 심도 있게 논의해 왔습니다. 이 시리즈의 첫머리에서 AI 팩토리를 대규모·고성능 학습 및 추론 요구 사항을 충족하기 위해 스토리지, 네트워킹, 컴퓨팅에 막대한 투자를 한 시설로 정의했습니다궁극적으로 AI 팩토리는 AI 모델과 서비스가 생성되고 개선되며 배포되는 방식을 비유적으로 표현한 개념입니다. 전통적인 제조 공장이 원자재를 완제품으로 바꾸는 것처럼, AI 팩토리는 AI 애플리케이션을 구축합니다.
이 블로그 글에서는 AI 애플리케이션과 최신 애플리케이션의 유사점과 차이점을 살펴보고, 제공 및 보안 요구 사항을 중점적으로 다루며, 이러한 최신 AI 애플리케이션을 F5 AI 참조 아키텍처의 맥락에서 논의합니다.
현대 애플리케이션의 진화
최신 애플리케이션은 민첩성, 확장성, 향상된 사용자 경험에 대한 요구에 힘입어 크게 발전해 왔습니다. 클라우드 컴퓨팅의 등장은 이러한 발전의 중요한 전환점이 되었으며, 효율적으로 확장하고 여러 환경에서 원활하게 운영할 수 있는 고도로 분산된 시스템의 기반을 마련했습니다. 애플리케이션 현대화는 API 기반 시스템으로 전환하는 과정이며, 이를 통해 아키텍처가 하이브리드 및 멀티클라우드 형태로 발전했습니다.
AI 애플리케이션은 API에 대한 의존도를 더욱 높이고 하이브리드 및 멀티클라우드를 새로운 표준으로 자리 잡게 합니다. 컨테이너화 기술은 기반 인프라와 관계없이 소프트웨어에 일관되고 격리된 환경을 제공함으로써 애플리케이션 배포를 한층 더 혁신했습니다. 이러한 발전은 기존의 현대적 애플리케이션에 핵심적일 뿐만 아니라 AI 팩토리의 근간이 되기도 합니다. 클라우드 컴퓨팅과 컨테이너화가 제공하는 민첩성은 AI 모델의 학습 및 배포에 필요한 막대한 컴퓨팅 수요를 관리하는 데 필수적입니다.
Kubernetes와 같은 오케스트레이션 도구는 컨테이너화된 애플리케이션을 대규모로 관리하는 데 필수적입니다. Kubernetes는 이러한 애플리케이션의 배포, 확장 및 관리를 자동화합니다. AI 워크플로에서 Kubernetes는 여러 시스템에 걸친 AI 워크로드 배포를 조율하여 리소스를 효율적으로 할당하고 AI 모델을 원활하게 확장할 수 있도록 지원합니다.
“검증된 보안 및 배포 전략부터 적용하면 팀은 탄탄한 기반을 구축하고 AI 애플리케이션이 제기하는 고유한 과제를 점진적으로 해결할 수 있습니다.”
이 프로세스에서 중요한 요소는 AI 모델의 개발, 학습 및 운영 과정에서 발생하는 고유한 과제를 해결하는 MLOps입니다. MLOps는 지속적 통합 및 제공(CI/CD)을 지원하여 AI 모델이 지속적으로 테스트되고 업데이트되며 배포되도록 합니다. 또한 마이크로서비스 아키텍처의 도입은 모놀리식 시스템을 독립적으로 배포할 수 있는 더 작은 서비스로 분할함으로써 현대적인 애플리케이션 개발 방식을 혁신했습니다. 이 접근 방식은 CI/CD를 가속화하여 소프트웨어를 더 빠르고 안정적으로 업데이트할 수 있게 합니다.
보안은 항상 현대 애플리케이션의 발전을 뒷받침하는 핵심 요소였습니다. 정교한 사이버 위협이 증가함에 따라 현대 애플리케이션에는 웹 애플리케이션 방화벽(WAF), 분산 서비스 거부(DDoS) 공격 방어, API 보안과 같은 고급 보안 조치가 통합되었습니다. 네트워크 및 전송 계층을 표적으로 하는 레이어 3/4 DDoS 공격과 애플리케이션 계층을 겨냥하는 레이어 7 DoS 공격을 구분하는 것이 중요합니다.
AI가 발전함에 따라 위협 모델도 진화하며, 특히 자연어 처리(NLP) 인터페이스를 통해 접근하는 대규모 언어 모델(LLM)에서 이러한 변화가 두드러집니다. LLM이 직면하는 위험에는 프롬프트 인젝션 공격, 데이터 추출 위협 등 LLM 애플리케이션을 위한 OWASP Top 10에서 강조하는 취약점과 모델별 DoS 공격이 포함됩니다. 이러한 보안 기술의 발전은 진화하는 위협에 맞서 AI 기반 솔루션의 무결성과 신뢰성을 유지하고, AI 애플리케이션이 지속적으로 복원력과 보안성을 갖추도록 합니다.
F5 AI 참조 아키텍처
AI 팩토리에 관한 시리즈를 계속 읽어 오셨다면, 지금까지 API 보안, 네트워크 세분화, 트래픽 관리, 검색 증강 생성(RAG), 그리고 데이터 처리 장치(DPU) 등의 주제를 살펴보셨을 것입니다. 이제 한 걸음 물러서서 AI 팩토리가 F5 AI 참조 아키텍처에 어떻게 부합하는지, AI 팩토리가 AI 애플리케이션을 어떻게 만들어 내는지, 그리고 이를 제공하고 보호하기 위해 어떤 요건이 필요한지 알아보겠습니다.
F5는 고객이 고성능 애플리케이션을 제공할 수 있도록 지원해 온 약 30년간의 경험을 바탕으로 7가지 구성 요소(추론, RAG, RAG 코퍼스 관리, 미세 조정, 학습, 외부 서비스 통합 및 개발)와 4가지 배포 유형(AI-SaaS, 클라우드 호스팅, 자체 호스팅 및 엣지 호스팅)을 포함하는 AI 참조 아키텍처를 개발했습니다. 자세한 내용은 AI 팩토리의 개념을 설명하는 F5 블로그를 참조하세요. AI 애플리케이션은 API로 연결되고 고도로 분산된 최첨단 애플리케이션이므로, 이 참조 아키텍처는 AI 애플리케이션 제공에 필수적인 성능, 운영 및 보안 과제를 해결합니다.
AI 팩토리에서 가장 일반적인 구성 요소 두 가지는 학습과 추론입니다. 하지만 완전한 기능을 갖춘 AI 애플리케이션을 구현하려면 모든 구성 요소가 필요합니다. 일부 조직은 학습 또는 추론에 필요한 기능을 처리하기 위해 AI 팩토리를 구축할 수 있습니다. 다른 조직은 타사에 의존하여 모델 학습 서비스를 이용하거나 추론용 인프라를 제공받을 수 있습니다.
AI 애플리케이션은 본질적으로 분산형이며, 분산 Kubernetes 컨테이너 플랫폼에서 실행될 수 있습니다. 이는 현대적 애플리케이션의 정의 그 자체이며, “AI 애플리케이션은 현대적 애플리케이션 중에서도 가장 현대적인 애플리케이션일 뿐이다”라는 표현이 나온 배경이기도 합니다. 그렇다면 AI 팩토리를 구축하는 기업에 이는 어떤 의미일까요? AI 애플리케이션에는 Kubernetes 인그레스, 멀티 테넌트 이그레스, DNS 기반 트래픽 관리, 복원력, 관측 가능성 등 오늘날의 현대적 애플리케이션과 동일한 전송 및 보안 서비스가 필요합니다. 보안을 위해서는 DDoS 방어, 웹 애플리케이션 및 API 보호, 최적화 기술이 필요합니다.
AI에 특화된 보안 문제에만 집중하지 않고 AI 애플리케이션과 현대적 애플리케이션에 공통으로 적용되는 전송 및 보안 기능에 초점을 맞추는 것이 의외로 보일 수 있지만, 이는 의도적인 접근 방식입니다. AI 애플리케이션에는 분명 고유한 위험이 따르지만, 새롭고 혁신적인 기능을 우선시하다 보면 애플리케이션 보안과 전송의 기본이 간과되는 경우가 많습니다. 조직은 이른바 ‘쉽게 달성할 수 있는 과제’인 공통 보안 및 전송 요구 사항을 먼저 해결함으로써 기존의 애플리케이션 보안 전문성을 활용해 즉각적인 개선을 이룰 수 있습니다. AI 애플리케이션에 새로운 구성 요소가 포함될 수는 있지만, 여전히 웹 및 API 상호 작용에 크게 의존하며 이는 현재 NetOps 및 SecOps 팀의 역량으로 충분히 대응할 수 있는 영역입니다. 검증된 보안 및 전송 전략부터 적용하면 팀은 탄탄한 기반을 구축하고 AI 애플리케이션이 제기하는 고유한 과제를 점진적으로 해결해 나갈 수 있습니다.
F5 AI 참조 아키텍처는 AI 팩토리의 결과물뿐만 아니라 조직의 비즈니스 목표에 맞게 AI 애플리케이션을 성공시키는 데 따르는 과제와 위험도 중점적으로 다룹니다. 이를 위해 위험과 과제에 관한 상호 보완적인 두 가지 상위 10개 목록인 LLM 애플리케이션을 위한 OWASP 상위 10대 위험과 F5 애플리케이션 딜리버리 상위 10대 과제를 사용하기로 했습니다. 각 빌딩 블록의 구성 요소와 상호 연결 관계를 매핑하고, 해당 OWASP LLM 상위 10대 위험과 F5 애플리케이션 딜리버리 상위 10대 과제가 적용되는 지점을 표시했습니다. 아래에서 AI 추론에 관한 예를 확인할 수 있습니다.
추론 구성 요소에 F5 애플리케이션 딜리버리 10대 위험과 OWASP LLM 10대 위험을 겹쳐 표시한 F5 AI 참조 아키텍처.
AI 애플리케이션 내의 모든 구성 요소와 상호 연결 지점은 최신 애플리케이션을 위해 설계되고 이미 확립된 전송 및 보안 보호 기능의 이점을 누릴 수 있습니다. 그렇다고 해서 이러한 기존 보호 기능만으로 AI 애플리케이션을 충분히 보호할 수 있다는 의미는 아닙니다. 조직은 검증된 전송 및 보안 솔루션을 기반으로 활용하여 AI 애플리케이션의 전송 및 보안 태세를 크게 강화할 수 있습니다. 이러한 탄탄한 출발점을 바탕으로 팀은 전문 역량을 점진적으로 개발하고, AI 애플리케이션이 제기하는 고유한 과제와 위험에 대응하는 데 필요한 고급 도구를 도입할 수 있습니다.
현재 F5 AI 참조 아키텍처는 미리보기로 제공되고 있습니다. 고객은 다음 달 말부터 F5의 대표적인 애플리케이션 보안 및 전송 콘퍼런스인 AppWorld에서 대화형 환경을 통해 전체 AI 참조 아키텍처를 살펴볼 수 있습니다.
F5는 AI 팩토리와 최신 애플리케이션을 지원합니다
F5는 애플리케이션 전송 및 보안 분야의 선도 기업입니다. F5 BIG-IP와 같은 솔루션은 부하 분산, 트래픽 관리, 보안 등의 필수 서비스를 제공합니다. 기존 애플리케이션에서 널리 활용되는 이러한 기능은 AI 애플리케이션이 최고 수준의 안정성, 성능 및 보호 기능을 제공하는 데에도 매우 중요합니다.
AI 팩토리를 구축하는 기업의 경우, 애플리케이션 전송 및 보안을 위해 F5에서 활용하는 기능이 바로 AI 팩토리에 필요한 기능입니다. F5 BIG-IP Local Traffic Manager는 F5 rSeries 및 VELOS 전용 하드웨어와 함께 학습 및 미세 조정을 위한 고성능 데이터 수집을 지원하고, 가장 까다로운 보안 위협으로부터 AI 애플리케이션을 보호합니다. F5 Distributed Cloud Services는 안전한 멀티클라우드 네트워킹과 웹 애플리케이션 및 API 보호를 지원합니다. 또한 최근 발표된 F5 NVIDIA BlueField-3 DPU에 배포된 BIG-IP Next for Kubernetes는 대규모 AI 인프라의 트래픽 관리 및 보안 작업을 CPU에서 DPU로 오프로드하여 AI 애플리케이션의 효율성, 제어력 및 성능을 한층 향상합니다.
F5가 AI 팩토리의 보안을 강화하고 확장성을 높이는 방법에 대해 자세히 알아보려면 지금 F5 고객 담당 팀에 문의하세요. F5의 AI에 대한 노력은 여기서 그치지 않습니다. F5가 어디서나 AI 애플리케이션을 보호하고 제공하는 방법을 살펴보세요.
AI 팩토리에 대해 더 자세히 알아보고 싶으신가요? AI 팩토리 블로그 시리즈의 다른 글도 살펴보세요:
- AI 팩토리란 무엇인가요? ›
- AI 팩토리를 위한 검색 증강 생성(RAG) ›
- AI 팩토리 데이터 수집을 위한 트래픽 관리 최적화 ›
- 엣지 데이터 소스를 AI 팩토리에 최적으로 연결하기 ›
- 멀티클라우드의 확장성과 유연성으로 AI 팩토리 지원 ›
- AI 팩토리를 위한 NVIDIA BlueField DPU의 강력한 성능과 의미 ›
- AI 팩토리를 위한 API 보호: AI 보안을 위한 첫걸음 ›
- AI 팩토리를 위한 네트워크 세분화의 중요성 ›
작성자 소개
Paul Pindell은 F5의 수석 아키텍트로, 기술 제휴 부문에서 F5 제품 포트폴리오 전반의 기술 파트너십을 총괄하고 있습니다. 2019년부터는 F5 최초의 혁신 프로젝트 출범을 지원하는 등 기업 전략 이니셔티브에서도 핵심적인 역할을 맡아 왔습니다. Paul은 F5의 AI 전략 전담팀을 이끌며 F5의 기존 제품을 활용해 AI 애플리케이션을 안전하게 보호하고 제공하는 방안을 수립하는 데 주력했습니다. 이후에는 AI 애플리케이션 제공 및 보안을 지원하는 데 필요한 핵심 구성 요소, 과제, 위험 요소, 파트너 솔루션을 제시하는 F5의 AI 참조 아키텍처 개발에도 기여했습니다. Paul은 OPI Summit, OCP Global Summit, Intel InnovatiON, Open Source Summit, Red Hat Tech Exchange를 비롯해 미국과 EMEA 지역에서 열린 여러 VMworld 컨퍼런스 등 다양한 업계 행사에서 기조연설과 세부 세션 발표를 자주 맡고 있습니다. 또한 오픈 소스 프로젝트의 창립자이자 메인테이너로 활동하고 있으며, Open Programmable Infrastructure Project의 아웃리치 위원회 의장을 맡고 있습니다. 이전에는 Symantec의 Antivirus Response 데이터 센터와 보안 소프트웨어 테스트 랩의 데이터 센터 운영을 총괄했습니다.
Paul Pindell의 다른 블로그 게시물
Hunter Smit은 F5에서 솔루션 및 전략 부문 제품 마케팅을 담당하는 시니어 매니저입니다. AI 인프라와 애플리케이션 보안을 비롯한 F5 포트폴리오 전반의 솔루션 마케팅을 이끌고 있으며, F5의 신흥 AI 데이터 전송 시장 진출을 주도하고 있습니다. Hunter는 Whitworth University 경영대학 자문위원회 위원이며, 제품 마케팅 겸임 강사로도 활동했습니다. Whitworth University에서 경영학 석사(MBA)와 경영학 학사 학위를 취득했습니다.
Hunter Smit의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.