AI는 빠르게 발전하고 있습니다. 많은 경우, AI를 관리하기 위해 설계된 보안 통제보다 더 빠릅니다.
기업들은 공식적인 보안 검토가 따라잡기 어려울 정도로 빠르게 생성형 AI, 에이전트형 시스템, AI 지원 워크플로를 도입하고 있습니다. 사업 부문은 계속 앞서 나가고 있으며, 보안 책임자들은 실시간으로 벌어지는 격차를 해소하기 위해 고군분투하고 있습니다.
이처럼 긴박한 상황 속에서 충분히 주목받지 못하는 문제가 하나 있습니다. 바로 AI 보안 통제가 실제로 효과가 있는지 평가할 수 있는, 널리 인정받는 엄격한 표준이 아직 없다는 점입니다. 공급업체들은 저마다 주장을 내놓지만, 시연은 제한된 범위에서만 이루어집니다. 보장 근거도 실제 환경에서 얻은 증거가 아니라 아키텍처 다이어그램에 기반합니다. 결국 구매 담당자, CISO, GRC 책임자, 엔터프라이즈 아키텍트는 실효성 있는 통제와 그럴듯한 마케팅을 확실히 구분할 방법도 없이 중대한 결정을 내려야 하는 상황에 놓여 있습니다.
바로 그 격차를 해소하는 것이 우리의 목표였습니다.
오늘 독립 사이버 보안 테스트 기관인 NSS Labs가 F5, AWS, Microsoft와 협력하여 개발한 엔터프라이즈 AI 보안 평가 방법에 관한 2부작 연구 시리즈를 발표합니다.
- 1부, 모델을 넘어선 AI 보안: 기업이 주목해야 할 사항과 그 이유, 기업 AI 보안은 모델에만 국한된 문제가 아니라 시스템 및 거버넌스 차원의 과제라는 점을 설명합니다. 또한 입력 무결성과 명령 제어, 출력 위험과 데이터 유출, 스트레스 상황에서의 시스템 복원력, 에이전트형 AI와 위임된 권한, 관측 가능성과 포렌식, 그리고 이 모든 요소를 하나로 연결하는 거버넌스 요구 사항까지 전체 위험 영역을 살펴봅니다.
- 2부, 엔터프라이즈 AI 보안 평가: 모든 구매자가 답할 수 있어야 하는 질문,에서는 이 프레임워크를 실행 방안으로 구체화합니다. CISO, 엔터프라이즈 구매 담당자 및 GRC 팀이 AI 보안 통제를 선택할 때 확신을 갖고 근거 있는 결정을 내리는 데 필요한 벤더 대상 세부 질문, 주의해야 할 위험 신호, 정량적 평가 기준을 제시합니다.
AI 가드레일은 AI 보안의 핵심입니다
AI 가드레일이 무엇이고 왜 중요한지 알고 싶다면, 이 주제에 관해 앞서 작성한 게시물을 읽어보시길 권합니다. 간단히 말해, AI 가드레일은 모델 외부에서 작동하는 런타임 보안 통제 수단으로, 정책을 시행하고 데이터를 보호하며 에이전트의 행동을 제한하고 거버넌스에 필요한 감사 추적 기록을 생성합니다.
가드레일은 모델 자체가 아닙니다. 가드레일은 다음을 가능하게 하는 엔터프라이즈 보안 계층입니다.
업계에는 기준점이 필요했습니다
빠르게 변화하는 기술 분야에서 가장 어려운 일 중 하나는 잠시 멈춰 무엇이 바람직한 모습인지 정립할 수 있을 만큼 충분한 시간을 갖는 것입니다. 제품을 출시하고 경쟁하며 고객의 요구에 대응해야 한다는 압박은 지속 가능한 프레임워크를 만들어 내는 신중하고 공급업체 중립적인 사고를 방해합니다.
이 백서 작성에 협력한 F5, AWS, Microsoft는 AI를 대규모로 도입하고 있는 전 세계 최대 규모의 고도화된 기업들과 폭넓게 협력하고 있습니다. 우리는 대부분의 공급업체가 접하지 못하는 위협 패턴, 배포 실패, 거버넌스 공백, 예외적인 사례를 직접 목격합니다.
이처럼 폭넓은 실제 현장 경험에 NSS Labs의 엄격한 독립 테스트 방법론을 결합함으로써, 진정으로 유용하길 바라는 결과물을 개발할 토대를 마련할 수 있었습니다. 이는 공급업체의 홍보물이 아니라, 매일 이러한 문제를 다루는 실무자들이 구축한 프레임워크입니다.
이 일이 실현될 수 있도록 시간과 전문 지식을 보태 주신 모든 분께 감사드립니다.
앞으로 해야 할 일
표준은 채택될 때에만 유용합니다. 이 프레임워크가 기업이 도입을 검토 중인 AI 보안 솔루션을 평가하는 데 활용하는 기준점이 되기를 바랍니다.
엄격한 테스트가 어떤 것인지 이해하는 구매자는 더 많은 정보를 바탕으로 구매 결정을 내릴 수 있으며, 이러한 기대가 더 광범위한 보안 커뮤니티의 발전을 촉진하는 데 도움이 되기를 바랍니다.
AI의 발전 속도는 늦춰지지 않고 있습니다. 공격 표면도 줄어들지 않고 있습니다. 그리고 AI 도입과 AI 책임성 사이의 격차는 저절로 좁혀지지 않을 것입니다.
NSS Labs의 2부작 백서를 여기에서 확인하실 수 있습니다. 또한 이번 협업을 발표한 보도자료도 확인해 주세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.