지난 1년 동안 우리는 생성형 AI에 대해 많은 것을 배웠습니다. 특히 배포 패턴의 모범 사례가 구체화되고, AI 팩토리가 새로운 데이터 센터 구성 요소로 자리 잡는 한편, AI 모델과 애플리케이션의 제공 및 보안에 대한 우려가 주요 과제로 부상하는 것을 목격했습니다.
AI 애플리케이션이 ‘현대적인 애플리케이션 중에서도 가장 현대적’이며 API에 크게 의존하는 것은 사실이지만, AI 애플리케이션이 고유한 과제를 제기한다는 점 또한 사실입니다. 특히 보안, 모니터링 및 제공 측면에서 그렇습니다.
AI 애플리케이션의 비결정적 특성은 중대한 과제를 야기합니다. 즉, 들어오는 입력과 나가는 응답이 매우 다양하며 시간이 지남에 따라 변화합니다. 또한 AI 애플리케이션은 여러 위치에 분산된 정형 및 비정형 소스 모두에서 데이터를 가져올 수 있습니다. 실제로 시장을 조사했을 때 AI 배포 계획이 퍼블릭 클라우드, 온프레미스, 하이브리드 방식으로 다양하게 구성되어 있다는 사실은 놀랍지 않았습니다.
비정형적이고 예측할 수 없는 입력과 출력의 문제는 요청이나 응답에 민감하거나 잘못된 정보가 포함되어 있는지 판단하기가 본질적으로 어렵다는 데 있습니다. API 보안과 웹 애플리케이션 방화벽은 바로 이러한 목적으로 자주 사용되지만, 정형화되어 예측 가능한 콘텐츠를 기반으로 작동합니다. 즉, 요청과 응답의 형식과 내용을 파악할 수 있으므로 악성 콘텐츠나 민감한 콘텐츠를 더 쉽게 탐지할 수 있습니다. AI는 API 및 웹 애플리케이션과 동일한 구조를 활용하지만 콘텐츠의 변동성이 매우 크기 때문에 요청과 응답을 검사하거나 민감한 정보를 제거하는 정책을 수립하기가 어렵습니다.
이러한 과제에는 또 다른 문제가 내포되어 있습니다. 바로 AI 트래픽을 양방향으로 모니터링해야 한다는 것입니다. 특히 상당수의 조직이 ChatGPT, Azure, Google, Hugging Face와 같은 서비스형 AI를 활용할 계획이라는 점을 고려하면 더욱 그렇습니다.
AI 모델 보호에 필요한 보안
이러한 이유로 기존 API 및 애플리케이션 보안 솔루션만으로는 AI 모델과 애플리케이션을 충분히 보호할 수 없습니다. AI 보안은 이러한 기존 서비스를 보완하며, 프롬프트 인젝션, 모델 조작, 환각, AI 기반 공격에 대한 보호 등 기업과 고객의 안전을 지키는 데 필요한 추가적인 고유 기능을 제공합니다.
AI 모델과 애플리케이션을 관리하고 보호하려면 애플리케이션 전송 및 보안 서비스가 다음 요건을 충족해야 합니다:
- 관찰하고 모든 요청, 응답 및 관리 작업을 기록하여 법률 및 규정 준수 요건을 충족합니다.
- 보호 악의적이거나 민감하거나 부정확한 프롬프트와 응답을 검사하고 조치하여 조직과 사용자를 보호합니다.
- 가속화 트래픽 조정 정책과 대규모 공격 방지 등의 제어 기능을 활용하여 성능을 향상합니다.
왜 F5 AI Gateway인가요?
20년 넘게 F5는 애플리케이션 아키텍처의 변화로 인해 발생하는 전송 및 보안 과제를 해결해 왔습니다. AI는 이전의 아키텍처와 마찬가지로 애플리케이션 전송 및 보안의 상호 보완적인 발전을 요구하는 새로운 애플리케이션 아키텍처를 제시합니다. F5 AI Gateway는 AI 기반 애플리케이션을 보호하고 가속하며 모니터링하는 솔루션으로, F5의 애플리케이션 전송 및 보안이 자연스럽게 발전한 결과입니다.
이러한 발전에는 오늘날 IT 환경의 현실인 하이브리드 멀티클라우드 지원도 포함되므로, F5 AI Gateway를 독립적으로 배포하거나 기존 F5 소프트웨어, 하드웨어 또는 서비스와 통합할 수 있습니다.
초기에는 F5 AI Gateway의 핵심 제공 요구 사항을 해결하고 실시간 보안 과제와 관련된 OWASP LLM Top Ten 항목을 지원하는 데 중점을 두며, 향후 더 많은 기능을 제공할 예정입니다.
OpenTelemetry를 통한 광범위한 메트릭 보고, 감사 로그 요구 사항에 대한 세심한 고려, 시맨틱 캐싱, 속도 제한, 콘텐츠 기반 모델 라우팅 등의 추가 기능을 통해 AI 제공 및 보안의 세 가지 요구 사항을 모두 지원합니다. 즉, 관찰, 보호, 가속입니다.
AI가 빠르게 발전하고 있으며 기업마다 상황이 다르다는 점을 고려하여, F5 AI Gateway는 Python, Rust 및 Go용 소프트웨어 개발 키트(SDK)가 지원하는 플러그인 에코시스템을 통해 조직이 맞춤형 요구사항과 새로운 요구사항에 대응할 수 있도록 지원합니다.
어디서나 모든 앱과 API 보호
F5는 모든 애플리케이션과 API를 어디서나 제공하고 보호하기 위해 최선을 다하고 있습니다. 애플리케이션이 발전함에 따라 새롭고 고유한 과제에 대응할 수 있도록 F5의 포트폴리오도 발전해야 합니다. AI 애플리케이션의 경우, F5 AI Gateway는 조직이 어디서나 이를 제공하고 보호하는 데 필요한 기능을 제공합니다.
F5 AI Gateway에 대해 자세히 알아보려면 여기를 확인하거나 F5 고객 담당자 또는 F5 기술 파트너에게 문의하세요.
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.