F5의 AI 팩토리 시리즈에서는 지금까지 AI 팩토리의 개념을 소개하고 정의했으며, 그 구성 요소와 애플리케이션 전송 및 보안 관련 선택이 성능에 미치는 영향을 살펴보았습니다. 시리즈의 다섯 번째 글인 이번 글에서는 추론을 제공하고 AI 팩토리, 즉 F5가 대규모·고성능 학습 및 추론 요구 사항을 충족하기 위한 스토리지, 네트워킹, 컴퓨팅에 대한 대규모 투자로 정의하는 환경에서 데이터 이동을 지원하는 데 멀티클라우드 네트워킹이 수행하는 핵심 역할을 살펴봅니다.
분산 아키텍처 탐색: 위치가 워크로드 성능에 미치는 영향
분산 상호 연결 지점은 AI 팩토리의 핵심으로, 스토리지, 네트워킹 및 컴퓨팅 인프라의 운영을 뒷받침합니다. 기업이 AI 팩토리를 설계할 때 많은 서비스는 동일한 데이터 센터 내부나 인근에 물리적으로 배치될 가능성이 높습니다. 그러나 일부 서비스는 지리적으로 분산될 수 있습니다. 프런트엔드 애플리케이션, 추론 서비스 및 필수 모델과 같은 서비스는 실제로 사용되는 위치와 가까운 곳에 배치되도록 설계할 때 최상의 성능을 발휘합니다. 또한 검색 증강 생성(RAG)을 활용하도록 설계한 경우 지식 코퍼스 데이터가 사용될 수 있지만, 여기서는 우선 프런트엔드, 추론 서비스 및 모델 배포에 중점을 두겠습니다.
추론 서비스 및 프런트엔드 애플리케이션
세계 유수의 조직에서 실제로 활용 중인 Google의 생성형 AI 사용 사례 185가지 목록에 따르면, 이러한 기업 중 다수가 전 세계 고객에게 AI 워크로드를 제공하기 위해 전략적 위치를 활용하는 것으로 나타났습니다. 최종 사용자 경험을 고려할 때 AI 팩토리의 분산 아키텍처를 중점적으로 다루고 세심하게 설계해야 합니다. F5의 2024년 애플리케이션 전략 현황 보고서에 따르면 조직의 88%가 하이브리드 클라우드 모델을 운영하고 있으며, 응답자의 94%가 멀티클라우드 관련 문제를 겪고 있는 것으로 나타났습니다.
다계층 보안: 소프트웨어 정의 네트워크(SDN)에서 얻은 교훈
그렇다면 AI 팩토리와 추론이 사용되는 인스턴스 간에 안전하고 최적화된 통신을 구현하는 가장 좋은 방법은 무엇일까요? 그 답은 네트워킹에 있습니다. 그 이유를 이해하기 위해 서비스 제공업체 업계 밖에서는 대부분 주목받지 못했던 업계의 화두인 소프트웨어 정의 네트워크(SDN)를 살펴보겠습니다. SDN은 4G 및 5G와 같은 3GPP 아키텍처의 보안을 구현하는 데 핵심적인 역할을 해왔습니다. 3GPP 아키텍처가 보안 측면에서 성공을 거둔 것은 엄격한 애플리케이션 격리 원칙을 준수했기 때문이라고 할 수 있습니다.
SDN은 계층 2 및 3에 제로 트러스트 원칙을 적용하여 강력한 솔루션을 제공합니다. 즉, 트래픽은 검증을 거쳐 소프트웨어 정의 방식의 결정론적 라우팅 인프라에서 처리되지 않는 한 애플리케이션으로 라우팅될 수 없습니다. 이를 통해 애플리케이션의 각 구성 요소를 로컬 및 글로벌 환경에서 독립적으로 확장하여 최적의 성능과 보안을 달성할 수 있습니다. 또한 SDN은 IP 주소가 아닌 이름을 기준으로 애플리케이션 트래픽을 라우팅하므로 IP 주소 중복과 같은 문제를 완화하고, 서로 다른 지역과 환경 전반에서 애플리케이션 및 보안 솔루션을 원활하게 확장할 수 있습니다. SDN 내의 명시적 라우팅과 터널링은 잠재적인 공격에 대한 강력한 방어 체계도 제공합니다. 무단으로 액세스하려면 SDN 내 리소스에 대한 소유권이 있어야 할 뿐만 아니라 엄격한 통신 프로토콜도 준수해야 하기 때문입니다.
대형 Tier 1 통신사들은 이러한 원칙이 대규모 환경에서도 효과적임을 입증해 왔으며, AI 팩토리를 위한 멀티클라우드 네트워킹(MCN)의 훨씬 더 큰 워크로드에도 이를 적용하는 것이 합리적입니다.
AI 규모의 연결성을 보호하는 방법
간단해 보이죠? 지금 이 글을 읽고 있는 스마트폰에도 GPU와 5G 연결 기능, 암호가 있을 가능성이 높습니다. 그렇다면 프라이빗 보안은 충분히 갖춰진 것 아닐까요? 하지만 꼭 그렇지만은 않습니다. 우선 세 가지 사항을 살펴보겠습니다. 다만 이는 시작에 불과하며, AI 팩토리의 위협 환경을 설계하고 모델링하는 과정에서 더 많은 요소가 드러날 수 있다는 점을 기억하세요.
먼저 속도에 대해 이야기해 보겠습니다. 2022년 말 ChatGPT와 함께 생성형 AI가 처음 큰 반향을 일으켰을 때만 해도 우리는 텍스트 데이터에 주목했습니다. 하지만 2024년에는 이미지, 동영상, 텍스트 등 다양한 모달리티와 데이터가 워크플로에 혼합되고, 전문화된 애플리케이션 계층 모델이 활용되는 사용 사례가 점점 늘어나고 있습니다. 분산형 AI 팩토리 아키텍처에서는 모든 모델을 모든 위치에 배포하는 것이 바람직하지 않거나 현실적으로 불가능할 수 있습니다. 이는 데이터 중력, 전력 중력 또는 컴퓨팅 요구 사항과 같은 요인에 따라 달라질 수 있습니다. 이때 고속 네트워크 상호 연결을 선택하면 서로 의존하는 서비스를 멀리 떨어뜨려 배치할 때 발생하는 간극을 해소하고 성능 문제를 완화할 수 있습니다.
또한 대규모 언어 모델(LLM) 및 생성형 AI 앱에 대한 OWASP 10대 위험 중 하나인 모델 도난에 대해서도 살펴보겠습니다. 생성형 AI를 활용해 경쟁 우위를 확보하려는 기업이라면 자사의 지식 재산을 시스템에 통합하게 됩니다. 기업 데이터로 자체 모델을 학습하거나 기존 모델을 미세 조정하는 방식이 이에 해당할 수 있습니다. 이러한 경우 AI 팩토리는 다른 비즈니스 시스템과 마찬가지로 반드시 보호해야 하는 모델을 통해 가치를 창출합니다. 분산 아키텍처에서 모델 도난을 방지하려면 해당 모델과 모델 업데이트, 그리고 애플리케이션이 액세스해야 하는 데이터 소스를 암호화하고 액세스 제어를 적용해야 합니다.
마지막으로, LLM 및 생성형 AI 앱에 대한 OWASP 10대 위험에도 포함된 모델 서비스 거부를 살펴보겠습니다. AI 애플리케이션에 대한 신뢰가 높아질수록 기업의 주요 수익 창출 시스템이나 의료와 같이 생명 유지에 필수적인 시스템 등 핵심 시스템에서의 활용도 증가합니다. 프런트엔드와 추론 기능에 접근할 수 있는 모든 경로는 복원력을 갖추고 통제되며 안전하게 보호되도록 설계해야 합니다. 이러한 접근 방식은 최종 사용자 접근뿐 아니라 추론 서비스에서 핵심 AI 팩토리로의 접근에도 적용될 수 있습니다.
기본 제공되는 가시성, 오케스트레이션 및 암호화
안전한 멀티클라우드 네트워킹 솔루션은 AI 팩토리 아키텍처의 분산 요소를 설계하는 데 필요한 연결성, 보안 및 가시성을 제공합니다. F5 Distributed Cloud Network Connect는 위의 모든 요구 사항을 충족할 뿐만 아니라 그 이상의 기능도 제공합니다. Distributed Could Network Connect는 고유한 고객 엣지 솔루션도 제공하여 퍼블릭 클라우드, 자체 또는 코로케이션 데이터 센터, 원하는 하드웨어를 사용하는 엣지 등 어디에서 추론을 실행하든 범용 연결을 지원합니다. 간단하고 빠르게 배포하기만 하면 고객 엣지가 자체적으로 연결을 설정합니다.
- 신속한 연결: F5 Distributed Cloud Services는 전 세계에서 피어링 연결이 가장 광범위한 네트워크 중 하나인 글로벌 고속 상호 연결 네트워크를 기반으로 구축되었습니다. 기업은 자사의 AI 팩토리가 분산 서비스에 가능한 가장 빠른 연결을 제공하도록 설계되었다고 확신할 수 있습니다. Distributed Cloud Network Connect를 사용하면 사이트를 신속하게 프로비저닝하여 기업이 AI 서비스를 즉시 제공할 수 있습니다.
- 안전하게 연결: Distributed Cloud Network Connect는 기본적으로 안전합니다. 연결은 암호화되며, AI 팩토리와 분산 서비스에 연결할 수 있는 대상을 완벽하게 제어할 수 있습니다. 또한 고객 에지를 활용하면 웹 애플리케이션 및 API 보호(WAAP)를 비롯해 지금까지 설명한 범위를 넘어서는 서비스도 사용할 수 있습니다.
- 가시성을 확보한 연결: Distributed Cloud Services는 네트워크 전반에서 애플리케이션 연결 상태에 대한 인사이트를 제공하는 풍부한 데이터 기반 대시보드를 갖춘 SaaS 기반 콘솔도 제공합니다. 이를 통해 팀은 문제가 발생할 수 있는 지점을 선제적으로 파악하고, 문제가 악화되기 전에 해결할 수 있습니다.
AI 팩토리를 설계하는 것은 결코 간단한 일이 아니며, 기업은 최고 수준의 보안을 보장하면서 최대한 빠르게 AI의 이점을 누리고자 합니다. AI 팩토리의 여러 보안 기능을 안정적으로 배포할 수 있다면 혁신을 가속하는 동시에, 실질적인 비즈니스 차별화와 경쟁 우위를 제공하는 AI 팩토리의 요소에 집중할 시간을 확보할 수 있습니다. 멀티클라우드 네트워킹에 대해 자세히 알아보려면 Brightboard 강의를 시청하거나 F5 Distributed Cloud Network Connect를 살펴보세요.
AI에 대한 F5의 노력은 여기서 끝나지 않습니다. F5가 어디서나 AI 앱을 보호하고 제공하는 방법을 알아보세요.
AI 팩토리에 대해 더 자세히 알아보고 싶으신가요? AI 팩토리 블로그 시리즈의 다른 글도 살펴보세요:
- AI 팩토리란 무엇인가요? ›
- AI 팩토리를 위한 검색 증강 생성(RAG) ›
- AI 팩토리 데이터 수집을 위한 트래픽 관리 최적화 ›
- 엣지 데이터 소스를 AI 팩토리에 최적으로 연결하기 ›
- AI 팩토리를 위한 NVIDIA BlueField DPU의 강력한 성능과 의미 ›
- AI 팩토리를 위한 API 보호: AI 보안을 위한 첫걸음 ›
- AI 팩토리를 위한 네트워크 세분화의 중요성 ›
- AI 팩토리가 만들어 내는 최첨단 현대식 앱: AI 앱 ›
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.