AI 애플리케이션 개발이 눈부신 속도로 가속화되고 있습니다. 최근 Gartner 보고서에 따르면, 2026년까지 기업용 애플리케이션의 80% 이상에 생성형 AI 기능이 내장될 것으로 예상되며, 이는 2023년의 5% 미만에서 크게 증가한 수치입니다. 조직들이 디지털 경험에 지능을 접목하기 위해 경쟁하면서, 관심의 초점은 AI가 무엇을 할 수 있는지에서 AI를 대규모로 얼마나 안정적이고 안전하며 효율적으로 제공할 수 있는지로 옮겨가고 있습니다. 이러한 새로운 지능형 애플리케이션의 물결은 특히 하이브리드 및 멀티클라우드 환경 전반에서 성능, 배치, 제어와 관련된 새로운 과제를 불러오고 있습니다.
부동산과 마찬가지로 AI 기반 앱 배포의 황금률도 입지, 입지, 입지입니다. AI 인프라가 어디에 위치하느냐에 따라 지연 시간, 비용, 사용자 경험이 크게 달라질 수 있습니다. 더 빠른 데이터 검색과 모델 학습을 위해 데이터 저장소 가까이에 두어야 할까요? 지연 시간이 짧고 반응성이 뛰어난 앱을 위해 사용자 가까이에 두어야 할까요? 아니면 규제 준수, 개인정보 보호, 가용성을 최적화할 수 있는 곳에 전략적으로 배치해야 할까요? AI 앱은 본질적으로 많은 데이터와 컴퓨팅 자원을 필요로 하므로, 데이터와 사용자 상호작용이 끌어당기는 힘은 그 어느 때보다 중요해졌습니다.
성능과 제어 사이의 최적점을 찾으려면 데이터와 사용자 모두에 대한 근접성을 균형 있게 고려해야 합니다. 또한 최적의 상호작용이 중요하다는 점도 잊어서는 안 됩니다. 챗봇, 내부 분석 도구, 외부 API 호출 등에서 들어오는 모든 AI 프롬프트를 적절한 백엔드, 모델 또는 서비스 계층으로 라우팅해야 정확하고 신속한 응답을 제공할 수 있습니다. 원활하고 스마트하며 안전한 AI 경험을 제공하려면 이러한 아키텍처를 올바르게 설계하는 것이 필수적입니다.
“F5 Distributed Cloud App Stack과 F5 AI Gateway는 조직이 다양한 환경에서 AI 워크로드를 배포, 관리 및 보호하는 데 필요한 도구를 제공합니다.”
바로 이 지점에서 라우팅과 보안이 미션 크리티컬한 요소가 됩니다. AI 애플리케이션은 정적인 것이 아니라, 사용 패턴이 수시로 변하고 사용자 의도가 다양하며 데이터 흐름이 끊임없이 진화하는 동적 시스템입니다. 따라서 프롬프트와 입력을 적절한 컴퓨팅 리소스로 라우팅할 수 있는 유연하고 지능적인 방법이 필요합니다. 해당 리소스는 온프레미스에서 호스팅되는 미세 조정된 대규모 언어 모델(LLM)일 수도 있고, 클라우드의 파운데이션 모델이나 다른 리전의 데이터 서비스일 수도 있습니다. 이러한 제어 기능이 없으면 지연이 발생하거나 사용자 경험이 저하될 수 있으며, 심지어 위협 벡터에 노출될 위험도 있습니다.
이러한 AI 트랜잭션 전반에 대한 완전한 관측 가능성도 그에 못지않게 중요합니다. 요청이 처리되었다는 사실을 아는 것만으로는 충분하지 않습니다. 어떤 요청이 이루어졌는지, 어떻게 라우팅되었는지, 어떤 모델이나 시스템이 응답했는지, 그리고 결과가 기대에 부합했는지를 심층적으로 파악할 수 있어야 합니다. 이러한 수준의 가시성을 확보하면 엔지니어링 팀이 더 빠르게 디버깅하고, 애플리케이션 흐름을 최적화하며, 보안 허점이 사고로 이어지기 전에 식별할 수 있습니다. 또한 AI 애플리케이션이 단순히 작동하는 데 그치지 않고, 비즈니스 목표에 부합하면서 안정적이고 안전하게 성능을 발휘하도록 보장합니다.
AI 애플리케이션이 현대 기업의 핵심 요소로 자리 잡으면서, 이를 안전하고 효율적으로 배포하는 것이 무엇보다 중요해지고 있습니다. F5 Distributed Cloud App Stack과 F5 AI Gateway는 이러한 과제를 해결하기 위한 포괄적인 솔루션을 제공하여 조직이 다양한 환경에서 AI 워크로드를 배포, 관리 및 보호하는 데 필요한 도구를 지원합니다.
어디서나 AI 애플리케이션 배포 및 관리
F5의 Distributed Cloud App Stack은 조직이 프라이빗, 퍼블릭, 통신 및 엣지 클라우드를 비롯한 이기종 인프라 전반에서 여러 애플리케이션을 배포하고 보호하며 운영할 수 있도록 지원하는 SaaS 기반 제품입니다. 관리형 Kubernetes 서비스를 통해 일관된 애플리케이션 런타임 및 스케줄링 계층을 제공하여 워크플로의 일관성을 보장하고 분산 클러스터 관리의 복잡성을 줄입니다. 이러한 유연성 덕분에 기업은 효율적인 처리를 위해 데이터 소스 가까이에 배치하거나 응답성을 높이기 위해 최종 사용자 가까이에 배치하는 등 AI 애플리케이션을 최적의 위치에 배치할 수 있습니다.
AI 상호작용 보호 및 최적화
Distributed Cloud App Stack을 보완하는 F5 AI Gateway는 AI 기반 애플리케이션의 프롬프트와 응답을 관리하고 보호하도록 설계되었습니다. 수신 프롬프트를 검사하여 프롬프트 인젝션 및 민감한 정보 노출과 같은 문제에 대응합니다. AI 상호작용에 대해 맞춤 설정 가능한 관찰, 보호 및 관리 기능을 제공함으로써 AI Gateway는 AI 애플리케이션의 사용성을 높이고 규정 준수를 간소화합니다.
AI Gateway의 주요 기능과 이점은 다음과 같습니다:
- AI 앱 개발자를 위한 경로 관리: F5 AI Gateway에는 LLM 및 소형 언어 모델(SLM)로 향하는 트래픽의 라우팅을 관리하는 기능이 내장되어 있습니다. 개발자를 위해 키, API 사양 및 엔드포인트를 관리하며, 추가적인 위험 없이 AI 애플리케이션을 빠르게 구축하고 반복적으로 개선할 수 있도록 지원합니다.
- 콘텐츠 기반 라우팅: AI Gateway는 AI 프롬프트를 컨텍스트에 따라 내부 및 외부 LLM 또는 SLM으로 라우팅합니다. 이를 통해 프롬프트가 가장 적합한 모델로 전달되어 응답을 최적화하고 개발자의 반복 작업을 줄일 수 있습니다.
- 유연한 배포: Distributed Cloud App Stack과 AI Gateway는 퍼블릭 및 프라이빗 클라우드, 온프레미스 데이터 센터, 엣지 로케이션을 비롯한 다양한 환경에서의 배포를 지원합니다. Kubernetes 기반 아키텍처를 통해 AI 애플리케이션을 최적의 위치에 배치하여 성능과 사용자 경험을 향상할 수 있습니다.
- 포괄적인 관측성: OpenTelemetry를 지원하는 AI Gateway는 LLM과 주고받는 모든 트랜잭션에 대한 완전한 가시성을 제공합니다. 이러한 관측성은 성능 모니터링과 이상 징후 탐지를 지원하고, 상세한 감사 로그를 통해 규정 준수를 용이하게 합니다.
- 향상된 보안: AI Gateway는 프롬프트 인젝션 및 민감한 정보 노출과 같은 보안 위협을 식별하고 차단합니다. 또한 상호 TLS(mTLS)를 사용하여 구성 요소 간의 안전한 통신을 보장하고, 보안 및 규정 준수를 유지하기 위해 인증, 권한 부여, 자격 증명 관리, 역할 기반 액세스 제어(RBAC)를 제공합니다.
AI 활용에 필요한 유연성과 보안
조직은 F5의 Distributed Cloud App Stack과 F5 AI Gateway를 인프라에 통합하여 AI 애플리케이션을 효과적으로 배포, 관리 및 보호할 수 있습니다. 이러한 솔루션은 AI의 잠재력을 최대한 활용하는 데 필요한 유연성, 관측 가능성 및 보안 기능을 제공하여 다양한 환경의 사용자에게 최적화되고 안전한 경험을 선사합니다.
자세한 내용은 F5 Distributed Cloud App Stack 및 F5 AI Gateway 웹페이지에서 확인하세요. 또한 보안 사용 사례를 소개하는 F5 AI Gateway 동영상도 시청해 보세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.