한 직원이 공급업체 계약서를 회사의 AI 지식 베이스에 추가합니다. 겉보기에는 평범합니다. 하지만 메타데이터에는 모델이 찾아내도록 작성된 지시가 숨겨져 있습니다. 요청하는 사람에게 내부 가격 정보를 공유하라는 내용입니다. 이는 간접 프롬프트 인젝션의 한 형태입니다. 파일이 지식 베이스에 들어가면 모델은 해당 파일을 검색할 때마다 그 지시를 따를 수 있습니다. AI 파일 보안은 이러한 파일이 그 단계에 이르기 전에 탐지하기 위해 존재합니다.
엔터프라이즈 AI는 파일을 기반으로 작동합니다. 직원들은 파일을 AI 어시스턴트에 업로드합니다. 검색 증강 생성(RAG) 시스템은 파일을 지식 베이스로 가져옵니다. 에이전트는 외부 서비스에서 파일을 가져와 누군가 확인하기도 전에 이를 바탕으로 작업을 수행합니다.
저는 경력의 상당 부분을 엔터프라이즈 네트워킹 및 데이터 센터 인프라 분야에서 보냈습니다. 이 분야의 핵심은 트래픽을 빠르게 전송하고 가용성을 유지하는 것입니다. 파일 보안은 다른 질문을 던집니다. 그 트래픽을 통해 전송되는 파일 안에는 무엇이 들어 있을까요? 현재 저는 OPSWAT에서 기술 제휴 업무를 담당하며 F5와 같은 파트너들과 함께 이 두 가지 관점을 접목하고 있습니다. 여기에도 한 가지 원칙이 그대로 적용됩니다. 파일은 이동할 때마다 검사를 받아야 한다는 것입니다. AI는 파일이 이동할 수 있는 경로를 훨씬 더 다양하게 만듭니다.
OPSWAT은 2002년부터 중요 인프라를 위한 사이버 보안에 주력해 왔습니다. 현재 전 세계 2,000개 이상의 조직이 파일을 통해 유입되는 위협을 차단하기 위해 당사의 기술을 사용하고 있습니다. F5와의 파트너십은 오랜 기간 이어져 왔습니다. F5가 F5 Application Delivery and Security Platform (ADSP)을 위한 파트너 프로그램을 출범했을 때, 당사는 최초의 Select 파트너 중 하나가 되었습니다. F5 ADSP 파트너 프로그램은 사전 검증된 통합을 통해 플랫폼을 지원합니다.
The F5 AI 레퍼런스 아키텍처는 AI를 구축하는 고객에게 AI 애플리케이션의 구성 요소와 이러한 구성 요소 간 연결 지점에 존재하는 과제 및 위험을 이해할 수 있는 기반을 제공하고, 해당 과제와 위험을 해결하기 위한 솔루션을 안내합니다. 팀이 이러한 보안 통제를 처음부터 설계할 필요가 없도록 당사의 파일 보안을 이 아키텍처에 매핑했습니다. 통합 기능은 이미 F5 인프라에서 실행되고 있으므로 양측 모두 별도의 신규 엔지니어링 작업 없이 매핑을 완료할 수 있었습니다.
“AI의 의사결정은 입력되는 파일을 신뢰할 수 있는 만큼만 신뢰할 수 있으며, 그 신뢰는 파일 보안에서 시작됩니다.”
Klaus Schwegler, OPSWAT 기술 제휴 부문 수석 제품 마케팅 매니저
검사는 데이터 경로에서 이루어져야 합니다
F5는 백서 「모델을 넘어선 AI 보안」에서 모델만 보호해서는 위험의 일부밖에 방어할 수 없다고 설명합니다. 여기에 더해, 모델에 전달되는 파일에도 별도의 통제가 필요합니다. 각 파일의 내부를 검사하는 것은 별개의 작업이며, 바로 OPSWAT이 담당하는 영역입니다.
파일을 검사하기에 가장 적합한 지점은 파일이 이미 이동 중인 경로입니다. F5 장치는 인터넷 콘텐츠 적응 프로토콜(ICAP)을 사용하여 콘텐츠를 외부로 전송해 검사할 수 있습니다. OPSWAT의 ICAP 통합은 이 표준을 기반으로 구축되었습니다. OPSWAT MetaDefender™ ICAP Server는 F5에서 각 파일을 받아 검사합니다. 그런 다음 허용 또는 차단 결정을 반환하거나 무해화된 파일 사본을 전송합니다.
이 통합은 F5 BIG-IP Local Traffic Manager, BIG-IP Advanced WAF, BIG-IP SSL Orchestrator에서 검증되었으며, F5 Distributed Cloud Services도 지원합니다. 또한 현재 OPSWAT은 F5 NGINX를 위한 유일한 인증 기술 모듈을 제공합니다.
AI 데이터 파이프라인의 보안을 유지하려면 양방향 검사가 필요합니다. 유입 경로에서는 사용자가 업로드한 파일과 지식 베이스로 전송되는 문서를 AI 서비스에 도달하기 전에 검사합니다. 반환 경로에서는 외부 서비스가 반환한 파일을 에이전트에 도달하기 전에 검사합니다. SSL Orchestrator는 트래픽을 복호화한 후 MetaDefender ICAP Server를 거치도록 전송하므로, 위협이 암호화된 연결 내부에 숨을 수 없습니다.
모든 파일은 침입 경로가 될 수 있습니다
업로드는 가장 익숙한 사례입니다. 누군가 BIG-IP 뒤에서 작동하는 AI 어시스턴트에 PDF, Office 문서 또는 이미지를 전달하면 MetaDefender가 30개 이상의 맬웨어 방지 엔진으로 이를 검사합니다. 그런 다음 당사의 콘텐츠 무해화 및 재구성 기술인 Deep CDR™을 사용해 파일을 재구성합니다. 실질적으로 모델에는 매크로, 포함된 개체 및 숨겨진 메타데이터가 제거된 안전한 사본이 전달됩니다. 또한 AI로 생성되거나 조작된 파일도 표시합니다.
도입부의 예시에 나온 계약서는 RAG 보안이 모든 정보가 지식 베이스에 들어가기 전부터 시작되어야 하는 이유를 보여줍니다. 문서가 추가되기 전에 Deep CDR이 매크로, 임베디드 개체, 메타데이터를 제거하므로 메타데이터에 숨겨진 지시가 모델에 전달되지 않습니다.
당사의 데이터 유출 방지 기술인 Proactive DLP™는 별도의 검사를 추가합니다. 답변을 나중에 필터링하려는 대신, 모델이 개인 정보와 건강 정보를 보지 못하도록 차단합니다. 당사의 Predictive AI in AI 엔진은 적대적으로 조작된 파일을 탐지하며, 오염된 파일은 저장되기 전에 차단합니다. MetaDefender Storage Security는 Amazon S3, NetApp, Dell을 비롯해 지식 베이스를 지원하는 객체 스토리지까지 검사합니다. RAG 기반 애플리케이션에서는 이 통합 기능이 사용자가 업로드하는 항목과 지식 베이스에 추가되는 항목을 모두 검사합니다.
에이전트의 경우 위험은 반환 경로에서 유입됩니다. 에이전트는 외부 API, 플러그인, 데이터 커넥터에서 파일을 가져온 다음 이를 기반으로 자율적으로 작업을 수행합니다. 따라서 에이전틱 AI 보안의 핵심은 반환되는 내용을 검사하는 것입니다. 에이전트의 외부 호출이 F5를 통과하는 경우, 어떤 프레임워크에서 호출했든 에이전트가 반환된 파일을 처리하기 전에 해당 파일을 검사합니다.
이러한 인라인 통합을 통해 F5 AI 참조 아키텍처의 7가지 구성 요소 중 4가지를 지원합니다. 나머지 3가지는 미세 조정, 학습, 개발입니다. 이러한 영역은 MetaDefender Storage Security, MetaDefender Managed File Transfer 및 MetaDefender Core API를 통해 지원합니다.
위험은 줄이고 프로덕션 전환은 더 빠르게
당사의 ICAP 통합은 로드맵에만 있는 것이 아니라 지금 바로 사용할 수 있습니다. ICAP 지원 장치와 플러그 앤 플레이 방식으로 연동되며, API 작업 없이 몇 분 만에 배포할 수 있고 고가용성 기능도 기본으로 제공됩니다. 이 통합을 사용 중인 고객들은 단 며칠 만에 모든 파일 업로드를 검사하기 시작했다고 밝혔습니다.
각 검사 지점은 F5가 자사 아키텍처에 사용하는 것과 동일한 목록인 ‘대규모 언어 모델 애플리케이션을 위한 OWASP 10대 보안 위험’에도 매핑됩니다. 따라서 규제 산업의 팀은 감사 담당자들이 이미 인정하는 표준을 활용할 수 있습니다.
신뢰할 수 있는 AI는 신뢰할 수 있는 콘텐츠에서 시작됩니다
AI의 의사결정은 AI에 입력되는 파일을 신뢰할 수 있는 만큼만 신뢰할 수 있으며, 그 신뢰는 파일 보안에서 시작됩니다. 탐지는 악성 파일이 유입되었다는 사실을 알려줍니다. 예방은 애초에 악성 파일이 유입되지 않도록 합니다.
콘텐츠 문제를 조기에 해결해야 이후의 모든 작업을 빠르게 진행할 수 있습니다. 또한 후속 작업도 줄어듭니다. 파일이 이미 정제된 상태로 전달되면 F5 AI Guardrails에서 파일을 정리하는 데 사용하는 토큰 수가 줄어듭니다.
어디서부터 시작할지 고민하는 팀에게는 변경해야 할 사항이 거의 없다는 점이 매력적입니다. 데이터 경로에 새로운 요소를 추가할 필요가 없습니다. 통합 프로젝트에 예산을 투입하거나 애플리케이션을 재구축할 필요도 없습니다. F5의 AI 파일 보안은 F5 AI 참조 아키텍처에 명시된 지점에서 이미 운영 중인 F5 인프라를 기반으로 실행됩니다.
AI 수명 주기 전반에서 파일 보안이 어디에 적용되는지 알아보려면 F5 AI 참조 아키텍처를 살펴보세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.