보안의 선순환 완성: AI 보안 문제 해결이 중요한 이유

F5 ADSP | 2025년 9월 23일

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

AI 보안 문제 해결은 엔터프라이즈 사이버 보안에서 가장 중요한 분야 중 하나입니다. 조직이 생성형 AI를 대규모로 도입함에 따라 새로운 취약점이 쏟아지고 있습니다. 하지만 AI의 속도에 발맞춘 효과적인 해결 조치가 없다면 이러한 취약점은 해결되지 않은 채 방치되기 쉬우며, 그 결과 위험 노출 기간이 길어지고 규정 준수 위험이 발생합니다.

AI 보안 문제 해결이란 무엇인가

사이버 보안에서 보안 문제 해결은 결코 새로운 개념이 아닙니다. 본질적으로 취약점이나 위협을 해결하는 프로세스입니다. NIST는 이를 취약점 또는 취약점이 악용될 가능성을 무력화하거나 제거하는 것으로 정의합니다. 실제로는 일반적으로 소프트웨어 패치, 시스템 재구성 또는 악성 코드 제거를 의미하며, 이 과정에서 서비스 중단이 발생하는 경우가 많습니다.

엔터프라이즈 환경에서 문제 해결은 인시던트 대응의 핵심을 이루는 체계적인 순환 프로세스입니다. 문제를 식별하고, 확산을 차단하고, 시정 조치를 적용한 후 복구하고, 재발 여부를 모니터링합니다. 수십 년 동안 문제 해결은 대부분 수작업으로 이루어져 많은 시간이 소요되었습니다. 보안팀은 경고를 수신하고, 티켓을 생성하고, 위험을 평가한 뒤, 방어 조치를 어느 정도로 엄격하게 적용할지 결정합니다.

하지만 이 주기는 언제나 균형을 맞추는 과정이었습니다. 보안 책임자들은 이를 흔히 다이얼에 비유합니다. 왼쪽으로 돌리면 통제가 강화되고, 오른쪽으로 돌리면 완화되는 식입니다. 지나치게 엄격하면 정상적인 활동을 방해하고, 지나치게 느슨하면 조직이 위험에 노출됩니다.

이제 문제는 AI가 그 조절 장치가 통제하도록 설계된 시스템 자체를 완전히 바꿔 놓았다는 점입니다.

기존의 개선 방식이 AI에 충분하지 않은 이유

AI 모델, 애플리케이션 및 에이전트 보호는 운영 체제나 네트워크를 보호하는 것과 근본적으로 다릅니다. 생성형 모델은 확률적으로 작동하며 내부 동작이 불투명합니다. 99번은 안전하게 작동하다가도 100번째에는 실패할 수 있습니다. AI 에이전트는 작업을 올바르게 수행하더라도 안전하지 않거나 규정을 준수하지 않는 방식으로 처리할 수 있습니다. 진화하는 보안 시스템에도 한계가 있습니다:

레드팀 테스트를 통해 발견되는 취약점은 팀이 현실적으로 해결할 수 있는 수준보다 많습니다.
방어적 가드레일은 당장의 위협을 차단하지만 근본적인 취약점은 해결하지 못합니다
탐지부터 해결까지 걸리는 시간(조치 격차)이 수주 또는 수개월로 늘어납니다

요컨대, 오늘날의 AI 보안은 문제를 찾아내는 데는 탁월하지만, 문제를 충분히 신속하게 해결하는 데는 어려움을 겪습니다.

MTTR: 핵심 가치 동인

AI를 도입하는 기업에는 복원력이 필수적입니다. 복원력은 오랫동안 평균 해결 시간(MTTR), 즉 취약점이 탐지된 후 해결되기까지 걸리는 시간으로 측정되어 왔습니다. MTTR이 짧을수록 위험에 노출되는 기간이 줄어들고 공격자가 공격할 기회가 감소하며 고객, 규제 기관 및 경영진의 신뢰가 높아집니다.

기존 IT 보안에서 MTTR 단축은 규정 준수 위험을 줄이고 운영 복원력을 높이기 위한 핵심 목표입니다. AI 보안에서는 그 중요성이 더욱 큽니다.

새로운 모델과 업데이트로 인해 새로운 취약점이 생겨나면서 공격 표면은 끊임없이 변화합니다. 공격자는 기계와 같은 속도로 움직이며, 방어자가 취약점을 테스트하는 것만큼이나 빠르게 이를 발견하고 악용하는 경우가 많습니다. 또한 EU AI Act와 같은 새로운 규제가 등장함에 따라 기업은 위험을 탐지하는 데 그치지 않고, 신속하고 추적 가능한 방식으로 위험을 완화할 수 있음을 입증해야 한다는 압박을 받고 있습니다.

이러한 환경에서 MTTR은 단순한 운영 효율성 지표 그 이상입니다. MTTR이 짧다는 것은 안전한 테스트 환경에서 취약점을 발견하는 것과, 이미 프로덕션 환경에서 악용된 후에야 대응하는 것의 차이를 의미합니다. 이는 AI 보안 프로그램이 보호 대상 시스템의 변화 속도를 실제로 따라갈 수 있는지를 가장 직접적으로 보여주는 지표입니다.

MTTR에서 자동 복구로

문제는 조직이 AI 기반 취약점을 파악하지 못한다는 데 있는 것이 아니라는 점에 주목해야 합니다. AI에 특화된 레드팀 테스트 및 실시간 방어 솔루션은 전례 없는 속도로 취약점을 찾아낼 수 있습니다. 문제는 그다음입니다. 발견된 취약점이 백로그에 쌓인 채 해결되지 않으면 MTTR이 늘어나고 기업은 계속 위험에 노출됩니다.

기존의 보안 운영에서는 문제 해결이 거의 전적으로 수작업으로 이루어지기 때문에 속도가 느립니다. 보안 팀은 수많은 경고를 검토하고, 담당자를 지정하며, 해결 방안을 마련해야 합니다. 새로운 취약점이 사람이 현실적으로 해결할 수 있는 속도보다 더 빠르게 발생하는 상황에서, 이러한 프로세스로는 AI의 발전 속도를 도저히 따라잡을 수 없습니다.

이 때문에 AI 보안에서 MTTR을 단축하려면 새로운 접근 방식이 필요합니다. 자동 복구는 취약점이 발견되는 즉시 분석하고, 실제 위험도에 따라 우선순위를 지정하며, 신속하게 테스트하고 배포할 수 있는 수정 사항을 생성함으로써 탐지부터 방어까지의 과정을 완결합니다.

실제로 자동 수정은 MTTR이 측정하는 목표를 실현합니다. 즉, 발견부터 해결까지 걸리는 시간을 단축하여 혁신을 저해하지 않으면서도 AI 시스템의 보안을 유지할 수 있도록 합니다. 무엇보다 자동화가 과도하게 수정하거나 새로운 문제를 일으키지 않도록 사람의 감독이 반드시 프로세스에 포함되어야 합니다.

피드백 루프 완성하기

AI 보안의 선순환을 완성하는 것은 바로 문제 해결입니다. 레드팀 활동과 방어 통제를 통해 AI가 초래하는 위험을 식별하고 억제할 수 있지만, 명확한 해결 방안이 없다면 조직은 계속해서 위험에 노출됩니다. 자동 문제 해결은 이러한 방안을 제공합니다. 발견된 문제를 테스트를 거쳐 배포 가능한 수정 사항으로 전환함으로써, 취약점이 단순히 발견되는 데 그치지 않고 실제로 해결되도록 합니다.

보안 팀에게 이러한 변화는 밀린 업무 처리에 쏟는 시간을 줄이고 더 높은 가치의 우선순위에 집중할 시간을 늘려 준다는 의미입니다. 보안 리더에게는 AI가 요구하는 속도에 맞춰 위험이 관리되고 있다는 확신을 의미합니다. 또한 조직 전체적으로 자동 교정은 혁신이 확대되더라도 위험까지 함께 커지지 않도록 더욱 강력하고 탄력적인 보안 태세를 제공합니다.

궁극적으로 해결 조치는 단순한 기술적 프로세스가 아니라, AI 보안을 지속적으로 적응하고 스스로 개선하는 시스템으로 전환하는 체계적인 접근 방식입니다. 바로 이것이 해결 조치가 중요한 이유이자 모든 AI 보안 전략의 핵심에 자리해야 하는 이유입니다.