AI는 소프트웨어와 보안 모두의 경제 구조를 변화시키고 있습니다.
이제 에이전트는 취약점을 발견하고, 코드를 작성하고, 도구를 실행하고, API를 호출하며, 인프라 전반에서 기계의 속도로 작업할 수 있습니다. 이는 방어자에게 강력한 새로운 역량을 제공합니다. 동시에 AI 보안이 더 이상 모델 보호에만 머물러서는 안 된다는 의미이기도 합니다.
이러한 이유로 F5는 NVIDIA를 비롯한 업계 선도 기업들과 함께 Open Secure AI Alliance의 회원사로 참여했습니다. 이 연합은 AI 시대에 방어자가 소프트웨어와 에이전트를 안전하게 보호할 수 있도록 개방형 기술, 기법 및 도구를 개발하고 공유하고 있습니다.
보안에는 최소한의 강제 적용 기준이 필요합니다
AI 에이전트는 단순한 언어 모델이 아닙니다. 모델, 지침, ID, 권한, 메모리, 도구, API, 가드레일, 로그, 평가 시스템으로 구성된 하나의 시스템입니다. 각 계층이 모두 중요하지만, 가장 지속적인 통제 수단은 에이전트가 다시 작성하거나 우회할 수 없고, 심지어 설득으로 무력화할 수도 없는 것입니다.
“이것이 바로 F5가 이 연합에 제시하는 설계 원칙입니다. 즉, 상호작용의 기반이 되는 지능뿐만 아니라 상호작용 자체도 보호해야 한다는 것입니다. 또한 오픈 연구와 테스트 하네스, 도구, 그리고 조직 전반에서 선별한 성과물도 제공할 계획입니다.””
저는 이를 집행 계층, 즉 요청이 평가되고 요청자의 통제 범위 밖에서 정책이 적용되는 지점이라고 생각합니다. AI 에이전트의 경우, 이 계층은 점점 더 에이전트와 에이전트가 접근할 수 있는 시스템 사이의 경로에 자리 잡고 있습니다. 에이전트의 실질적인 권한은 무엇을 호출할 수 있는지, 어떤 데이터에 접근할 수 있는지, 어떤 작업을 수행할 수 있는지에 따라 결정됩니다.
이는 F5에 익숙한 영역입니다.
인터넷이 신뢰할 수 있는 환경이 된 것은 모든 엔드포인트가 올바르게 작동했기 때문이 아니라, 핵심적인 통제 장치가 마련되었기 때문입니다:
- 로드 밸런서가 가용성을 관리했습니다
- 방화벽이 네트워크 정책을 적용했습니다
- 웹 애플리케이션 방화벽으로 애플리케이션 보호
AI 에이전트는 이 문제의 다음 양상을 만들어냅니다. 통제 지점은 다시 한번 이동하고 있으며, 이번에는 사용자, 애플리케이션, API, 에이전트, 도구 및 모델 간의 연결로 향하고 있습니다.
F5가 제공하는 가치
F5는 수십 년간 애플리케이션 및 API 트래픽의 핵심 제어 지점에서 역할을 수행해 왔습니다. 지난 몇 년 동안에는 이러한 역할을 AI 영역으로 확장해 왔습니다.
The F5 AI Security Platform은 AI 애플리케이션, 모델, 에이전트 및 이들을 연결하는 API를 보호하고 관리하도록 설계되었습니다. 모델에 구애받지 않는 테스트 및 런타임 보호, 에이전트 작업 및 도구 호출에 대한 가시성, 그리고 퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스 및 에어갭 환경을 아우르는 배포 옵션을 제공합니다.
이는 대부분의 기업이 단일 모델이나 공급업체로 표준화하지 않을 것이기 때문에 중요합니다. 기업은 워크로드, 위험 프로필, 지역 및 비용 구조에 따라 서로 다른 모델을 사용할 것입니다. 또한 기업의 모델 포트폴리오는 애플리케이션이나 보안 아키텍처보다 더 빠르게 변화할 가능성이 높습니다.
따라서 보안 통제는 모델이 교체되더라도 그대로 유지되어야 합니다. 특정 모델에 종속된 정책은 해당 모델이 변경될 때마다 다시 구축해야 합니다. 반면 애플리케이션과 API 경로 전반에 적용되는 정책은 모델, 제공업체, 배포 환경에 관계없이 일관되게 적용할 수 있습니다.
이것이 F5가 이 연합에 제시하는 설계 원칙입니다. 즉, 상호작용의 기반이 되는 인텔리전스뿐만 아니라 상호작용 자체도 보호해야 한다는 것입니다. 또한 당사는 조직 전반에서 수행한 공개 연구와 테스트 하네스, 도구 및 엄선된 결과물을 제공할 계획입니다. 당사의 목표는 보안 방어자 커뮤니티에 기여하는 것입니다.
향후 전망
개방형과 폐쇄형을 둘러싼 논쟁만으로는 엔터프라이즈 보안을 논하기에 지나치게 협소합니다.
궁극적인 형태는 하이브리드입니다. 기업은 개방형 및 폐쇄형 모델, 호스팅형 및 자체 관리형 시스템, 범용 및 특화 모델을 함께 사용하게 될 것입니다. 진정한 관건은 이 모든 환경에 일관된 보안 체계를 적용하고, 고객과 규제 기관에 그 체계를 입증하며, 통제 수단을 처음부터 다시 구축하지 않고도 기반 모델을 변경할 수 있느냐는 것입니다.
이는 주로 어떤 모델의 성능 상한이 가장 높은지에 관한 문제가 아닙니다. 시스템이 신뢰할 수 있는 최소 기준을 갖추고 있는지가 핵심입니다.
F5는 신뢰할 수 있는 최소 기준을 공개적으로 구축하는 데 기여하기 위해 Open Secure AI Alliance에 가입했습니다. 자세한 내용은 이 블로그를 참조하세요.
작성자 소개
Kunal Anand는 최고제품책임자(CPO)로서 F5의 제품 조직을 이끌고 있습니다. 제품 비전, 전략 및 실행을 총괄하며, 고객의 중대한 과제를 해결하고 탁월한 경험을 제공하는 혁신적인 솔루션의 개발을 주도합니다. 이전에는 최고기술·AI책임자로서 회사의 기술 및 AI 전략과 비전을 수립했습니다. F5에 합류하기 전에는 Imperva에서 최고기술책임자(CTO)와 최고정보보안책임자(CISO)를 겸임했습니다. Kunal은 2013년에 공동 창업한 애플리케이션 보안 스타트업 Prevoty가 2018년 Imperva에 인수되면서 Imperva에 합류했습니다. Prevoty 이전에는 BBC Worldwide에서 기술 담당 이사를 역임했습니다. Kunal은 혁신과 기술 분야에서 풍부한 경험과 전문성을 갖추고 있으며, Gravity, MySpace 및 NASA 제트추진연구소에서 보안, 데이터, 기술 및 엔지니어링 팀을 이끄는 직책을 맡았습니다. Kunal은 모델 학습, AI 기반 알고리즘을 활용한 제품 개선, AI 아키텍처 설계 및 구현 등 AI와 머신러닝 분야에서 15년 이상의 경험을 보유하고 있습니다. Kunal은 Babson College에서 컴퓨터 과학 학사 학위를 취득했습니다.
Kunal Anand의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.