전 세계 조직들이 놀라운 속도로 생성형 AI 애플리케이션을 구축하고 있습니다. 이러한 자체 개발 애플리케이션은 혁신과 새로운 효율성을 이끄는 데 필수적인 요소가 되었습니다. 하지만 혁신성이 매우 뛰어난 일부 생성형 AI 애플리케이션조차 조직을 완전히 새로운 공격 표면에 노출할 위험이 있습니다.
프롬프트 인젝션, 탈옥 또는 원격 코드 실행과 같은 공격이 성공하면 보안 침해와 데이터 유출로 이어질 수 있습니다. 마찬가지로 대규모 언어 모델(LLM)이 조직의 이해관계자에게 잠재적으로 유해하거나 부적절한 응답을 제공할 경우 평판 훼손, 법적 문제 및 금전적 손실이 발생할 수 있습니다.
생성형 AI 기반 애플리케이션을 보호해야 할 필요성이 커짐에 따라 F5 Distributed Cloud Platform은 생성형 AI 애플리케이션을 보호하는 기술을 포함하도록 타사 기술 파트너십을 확대하고 있습니다. Prompt Security는 AI 방화벽으로, 이제 F5 Distributed Cloud App Stack에서 지원됩니다. Distributed Cloud Platform은 WAF, 봇 방어, DDoS 보호, API 검색 및 보안과 같은 애플리케이션 보안을 제공하며, Customer Edge를 통해 네트워킹의 복잡성을 해소합니다. 이 파트너십은 F5 Distributed Cloud Services의 확장성을 보여주며, 고객이 온프레미스, 엣지, 하이브리드 및 멀티클라우드 환경 전반에서 AI 애플리케이션을 손쉽게 보호할 수 있도록 지원합니다. AI용 Prompt Security 방화벽은 인바운드 생성형 AI 쿼리와 아웃바운드 응답을 보호하여 조직을 프롬프트 인젝션, 민감한 데이터 노출, 유해한 응답 및 기타 해킹으로부터 안전하게 지켜줍니다.
생성형 AI 애플리케이션 보안의 핵심 원칙
1. 생성형 AI에 특화된 보안 위험 해결
생성형 AI 애플리케이션은 완전히 새로운 유형의 보안 위험을 초래하고 있습니다. 따라서 기존의 보안 접근 방식만으로는 충분하지 않습니다. Prompt Security는 모든 프롬프트와 모델 응답을 검사하여 프롬프트 인젝션, 탈옥, 지갑 고갈 공격 등 다양한 새로운 위협으로부터 보호합니다. 생성형 AI 애플리케이션으로 향하는 모든 트래픽은 Prompt Security를 통해 라우팅되므로, 유입되는 프롬프트를 완벽하게 파악할 수 있습니다.
2. LLM이 생성한 콘텐츠 검토
사용자 프롬프트가 조직의 시스템에 도달하기 전에 검사하는 것만큼이나, LLM의 응답이 안전하고 조직에 피해를 줄 수 있는 유해하거나 악의적인 콘텐츠를 포함하지 않도록 하는 것도 중요합니다.
3. 데이터 개인정보 보호 및 유출 방지
실제 운영 환경에서 사용할 생성형 AI 애플리케이션을 개발할 때, 최상의 사용자 경험을 제공하기 위해 애플리케이션이 조직(또는 제3자)의 데이터베이스와 리소스에 접근하게 됩니다. 그러나 적절한 보안 조치가 없으면 LLM이 생성한 응답을 통해 조직의 데이터가 노출될 수 있습니다. 이 경우 사용자가 애플리케이션을 속여 기밀 정보를 공개하도록 유도할 수 있으며, 이로 인해 법적 문제와 평판 훼손이 발생할 수 있습니다.
4. 거버넌스 및 가시성 구현
앱 개발자와 보안 팀은 생성형 AI 앱의 가능한 모든 삽입 지점에서 인바운드 및 아웃바운드 트래픽을 모니터링합니다. 조직의 AI 관련 거버넌스와 규정이 더욱 구체화되고 엄격하게 시행될수록 이는 더욱 중요해질 것입니다. Prompt Security는 생성형 AI와의 각 상호작용에 대한 전체 로그를 제공합니다. 로그에는 사용자, 프롬프트, 응답, 탐지 결과 등이 포함됩니다.
안전한 생성형 AI 애플리케이션으로 비즈니스 생산성 향상
AI용 Prompt Security 방화벽을 통해 F5 Distributed Cloud Services 고객은 모든 접점에서 생성형 AI 애플리케이션을 보호할 수 있습니다. 즉각적인 관찰 기능과 정책 관리 기능이 기본 제공되므로 조직은 생성형 AI 애플리케이션을 안전하게 보호하고, 비즈니스 생산성을 향상하며, 데이터 거버넌스를 유지할 수 있습니다.
Prompt Security의 보도 자료를 읽으려면 여기를 방문하세요.
Prompt Security와 F5 Distributed Cloud Services의 실제 데모를 보려면 https://www.youtube.com/watch?v=rP4fgpXgv3Q을 시청하세요.
F5 Distributed Cloud Services가 조직이 어디서나 모든 애플리케이션을 위한 인프라를 구축하는 데 어떻게 도움이 되는지 자세히 알아보려면 https://www.f5.com/cloud을 방문하세요.
Prompt Security에 대해 자세히 알아보려면 https://www.prompt.security를 방문하세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.