대부분의 조직은 생성형 AI 도입을 체계적으로 계획하지 않았습니다. 한 팀은 챗봇을 구축했고, 다른 팀은 모델을 내부 데이터에 연결했으며, 이제는 프로덕션 환경에서 에이전트가 조용히 도구를 호출하고 있습니다. 파일럿에서 배포까지 숨 가쁘게 달려오는 동안, 보안은 뒤늦게 따라잡아야 하는 처지가 되었습니다.
F5의 백서 생성형 AI 보안: 30-60-90일 프레임워크는 바로 이러한 격차를 해소하기 위해 마련되었습니다. AI 보안을 조달 과정의 체크 항목이나 일회성 감사로 취급하는 대신, 이 프레임워크는 단일 애플리케이션 보안에서 시작해 전체 환경을 아우르는 프로그램을 운영하고 자율형 에이전트를 방어하는 단계까지 팀을 이끄는 체계적인 90일 로드맵을 제시합니다.
그렇다면 이 프레임워크는 어떤 모습일까요?
0~30일 차에는 배포 속도가 아니라 규율이 중요합니다
새로운 생성형 AI 애플리케이션을 개발할 때면 누구나 서둘러 출시하고 싶은 유혹을 느낍니다. 하지만 당사의 AI 보안 프레임워크는 첫 단계부터 다른 접근을 요구합니다. 모델 선정, 레드팀 테스트, 가드레일 설계를 극복해야 할 걸림돌이 아니라 첫 30일 동안 수행해야 할 핵심 과제로 여겨야 합니다.
이는 기본 모델을 레드팀 테스트해 보안 기준선을 수립하고, 그 위에 애플리케이션을 구축한 다음, 결합된 시스템을 다시 레드팀 테스트하여 애플리케이션으로 인해 보안이 강화되었는지 아니면 약화되었는지 확인한다는 의미입니다. 또한 기존 규정, AI 관련 규정, 사용 사례별 위협, 레드팀 테스트 결과라는 네 가지 범주에 걸쳐 가드레일을 구축함으로써, 어느 한 범주에 명확히 들어맞지 않는다는 이유로 누락되는 항목이 없도록 한다는 의미이기도 합니다.
이 첫 번째 단계의 결과물은 반복 가능한 순환 프로세스입니다. 새로운 제로데이 위협이 발견되면 다시 레드팀 테스트를 수행하고, 가드레일을 보완한 뒤 검증하고 재배포합니다.
30~60일 차에는 보안이 적용된 단일 앱을 프로그램으로 확장합니다
하나의 애플리케이션을 제대로 보호하는 것은 좋은 성과입니다. 하지만 20개의 애플리케이션을 동일한 방식과 주기로, 동일한 수준의 감사 가능성을 유지하며 보호하는 것은 완전히 다른 문제입니다. 대부분의 조직이 바로 이 지점에서 정체됩니다.
당사의 프레임워크는 임시방편으로 이루어지던 보안 업무를 확장 가능한 프로그램으로 전환하는 네 가지 핵심 요소로 구성됩니다:
- 위험 등급에 따른 레드팀 활동 주기 정의
- 여러 애플리케이션에 업데이트를 한 번에 배포하고 롤백할 수 있는 가드레일 패치 파이프라인 구축
- 실질적인 SLA를 갖춘 전체 애플리케이션 대상 제로데이 대응 프로세스를 구축하세요
- 보안 운영자가 다른 위협을 다룰 때와 동일한 숙련도로 AI 인시던트를 조사할 수 있도록 SOC 역량을 강화하세요.
이 두 번째 단계는 조직이 모든 AI 애플리케이션에 대해 담당자가 누구인지, 마지막으로 테스트한 시점이 언제인지 답할 수 있을 때 완료됩니다.
60~90일 차에는 근본적으로 다른 위험에 직면한다
자율 에이전트는 단순히 질문에 답하는 데 그치지 않습니다. 지속적으로 실행되며, 여러 단계로 이루어진 계획을 추론하고, 도구를 통해 실제 작업을 수행합니다. 따라서 요청-응답형 애플리케이션을 위해 구축된 보안 모델을 그대로 적용하기는 어렵습니다.
우리 프레임워크의 해법은 두 가지 핵심 아이디어에 중점을 둡니다. 첫째, 관찰 가능성은 결과 기록을 넘어 추론 과정까지 기록해야 합니다. 에이전트의 모든 사고, 도구 호출, 의사결정을 서로 연결해 기록함으로써, 사고 발생 후 검토 시 무슨 일이 일어났는지뿐만 아니라 어떻게 일어났는지까지 재구성할 수 있어야 합니다. 둘째, 에이전트의 추론이 위험한 방향으로 벗어날 때 해당 사고를 단순히 차단하면 작업 도중 에이전트가 제대로 작동하지 않게 되는 경우가 많습니다. 대신 이 프레임워크는 위험한 사고를 에이전트가 생산성을 유지할 수 있는 더 안전한 사고로 대체하는 ‘사고 주입’과 함께, 도구 권한이나 영향력이 큰 작업에 대한 승인 게이트 같은 행동 수준의 통제를 적용할 것을 제안합니다. 생성형 AI 보안은 한 번 달성하고 넘어가는 단일 이정표가 아닙니다. 이는 지속적인 운영 체계이며, 이 프레임워크는 AI 배포의 허점이 사고로 이어지기 전에 보안 팀이 그러한 체계를 확립할 수 있도록 설계되었습니다.
전체 30-60-90일 프레임워크에 대한 자세한 내용은 백서를 확인하세요, 팀에서 즉시 활용할 수 있는 1~3단계 체크리스트도 포함되어 있습니다. 또한, 예정된 웨비나에 등록하세요.
작성자 소개
James White는 엔터프라이즈 소프트웨어 업계에서 약 20년의 경력을 쌓은 뛰어난 엔지니어이자 비즈니스 리더입니다.
James White의 다른 블로그 게시물
관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.