AI 제로데이 시대가 왔다: CISO가 알아야 할 사항

Navpreet Gill수석 제품 마케팅 매니저 | F5 NGINX

Google 보안팀에 따르면, AI 기반 취약점 탐지 시스템이 널리 사용되는 소프트웨어에서 제로데이 취약점을 발견한 것은 이번이 처음입니다. Google의 이번 AI 혁신은 AI로 인한 위험과 AI 기반 해결책으로의 불가피한 전환을 보여줍니다. Google 연구진은 AI 모델인 Big Sleep을 사용해 SQLite 데이터베이스 엔진에서 메모리 안전성 취약점인 스택 버퍼 언더플로를 발견했습니다. SQLite는 가장 널리 배포된 데이터베이스 엔진 중 하나로, 수백만 대의 기기와 애플리케이션에 내장되어 있습니다. 오픈 소스이며 데이터 파이프라인과 데이터베이스를 위한 소프트웨어 공급망에서 중요한 부분을 차지합니다. Big Sleep은 기존 방식으로는 발견하지 못했던 심각한 스택 버퍼 언더플로 취약점을 해당 코드에서 찾아냈습니다.

CISO에게 이는 중요한 의미를 갖습니다. AI는 선의의 행위자와 악의적인 행위자 모두에 의해 제로데이 취약점을 탐지하는 데 활용될 수 있으며, 실제로 그렇게 될 것입니다. 보안 환경의 변화 속도는 더욱 빨라질 것이며, 이에 발맞추려면 AI가 필수적입니다. 동시에 핵심 보안 통제가 제대로 마련되고 최적화되어 있는지 확인하는 일도 한층 더 중요해질 것입니다. 이는 AI 기반 위협에 두 가지 측면에서 대응해야 할 필요성을 보여줍니다. 첫째, 빠르게 진화하는 보안 위험에 맞서기 위해 AI 기반 방어 체계를 구축해야 합니다. 둘째, 기존 보안 프레임워크를 강화하고 이러한 새로운 기능과 통합할 수 있도록 해야 합니다.

다가오는 AI 기반 제로데이 공격의 급증

코딩 및 코드 분석을 수행하는 대규모 언어 모델(LLM)은 빠르게 발전하고 있습니다. 이러한 모델은 무료로 이용할 수 있으며 오픈 소스로 공개되는 경우도 많습니다. 공격자들은 이 점에 주목해 AI를 활용하여 시스템의 취약점을 찾아내려 적극적으로 시도하고 있습니다. CISO는 다음과 같은 몇 가지 주요 요인으로 인해 AI가 발견하는 제로데이 취약점이 급증할 것으로 예상해야 합니다:

고도화된 AI 역량: 최신 AI 모델, 특히 LLM은 복잡한 코드베이스를 분석하여 이전에 알려지지 않은 취약점을 식별하는 데 뛰어난 역량을 보여주었습니다. Google이 Project Big Sleep에서 AI를 활용해 광범위한 제로데이 취약점을 발견한 사례는 선제적 보안 조치에서 AI가 지닌 잠재력을 잘 보여줍니다.

자동화 및 효율성: AI 기반 도구는 취약점 발견 프로세스를 자동화하여 보안 결함을 식별하는 속도를 크게 높일 수 있습니다. 이러한 효율성 덕분에 수동 방식만으로는 불가능한 속도로 취약점을 탐지할 수 있습니다. GreyNoise Intelligence가 AI를 활용해 라이브 스트리밍 카메라에서 제로데이 취약점을 발견한 사례가 이러한 역량을 잘 보여줍니다.

향상된 의미론적 이해: AI 모델은 맥락, 의도, 기능을 더욱 깊이 이해하여 코드를 분석함으로써 기존 방식으로는 놓칠 수 있는 취약점을 찾아낼 수 있습니다. 이러한 의미론적 통찰을 통해 AI는 명백한 코딩 오류뿐만 아니라 악용될 수 있는 미묘한 논리적 결함, 구성 문제, 보안 허점까지 식별할 수 있습니다. 예를 들어 OpenAI Codex는 프로그램의 의도된 동작과 실제 구현을 비교해 해석함으로써 미묘한 보안 취약점을 찾아내는 능력을 입증했습니다.

이러한 발전이 맞물리면서 CISO와 보안팀은 AI가 발견하는 제로데이 취약점이 급증하는 상황에 대비해야 합니다. 한발 앞서 나가기 위해 조직은 AI 기반 방어 도구 도입을 우선시하고, 취약점을 조기에 해결할 수 있도록 개발팀과 보안팀 간 협업을 강화하며, 새롭게 부상하는 AI 위협에 관해 직원을 지속적으로 교육해야 합니다. AI를 활용한 사이버 공격의 새로운 시대가 초래하는 위험을 완화하려면 선제적 전략이 매우 중요합니다. 이를 위해서는 AI 위협에 맞서 AI를 활용하는 한편, 공격 표면을 줄이기 위해 제로 트러스트를 비롯한 선제적 전략을 한층 더 강화해야 합니다.

한층 더 강화된 심층 방어가 필수로 자리 잡고 있습니다

CISO에게 새로운 AI 위협 환경은 공격 표면을 최대한 폭넓게 보호하는 것이 얼마나 중요한지를 더욱 부각합니다. 이는 더 광범위한 코드와 구성 데이터, 프로토콜을 보호해야 한다는 의미입니다. 또한 애플리케이션 제공 수명 주기 전반의 더 많은 탐지 지점에 보안 메커니즘을 배치하고, 도구와 자동화를 제공하여 수작업을 더욱 줄여야 한다는 의미이기도 합니다.

예를 들어, F5 NGINX App Protect는 광범위한 프로토콜(HTTP/S, HTTP/2, gRPC, MQTT, WebSocket)에서 비정상적인 동작 유형을 차단함으로써 AI가 식별한 다수의 제로데이 공격을 막을 수 있습니다. NGINX App Protect는 모든 NGINX 제품과 함께 사용하거나 CI/CD 파이프라인에 통합하는 등 어디에나 배포할 수 있습니다. 심층 방어의 또 다른 요소인 NGINX One SaaS 콘솔은 자동화된 구성 권장 엔진으로 작동하여, 팀이 전체 NGINX 환경(NGINX Plus, NGINX Open Source, Kubernetes 제품 및 Azure 서비스형 옵션 포함)에 구성 변경 사항을 신속하게 적용하고 제로데이 공격을 차단할 수 있도록 지원합니다.

AI 주도 시대를 위한 심층 방어의 경계 확장

AI 제로데이는 단순히 위협 환경의 변화를 의미하는 것이 아니라 사이버 보안의 미래를 엿볼 수 있게 해줍니다. AI가 취약점을 발견하는 것은 일회성 사건이 아닙니다. 이는 우리를 보호하는 도구가 공격에 사용되는 도구와 같은 속도로 발전해야 한다는 신호입니다. AI 기반 취약점은 사이버 보안의 전환점으로, 더욱 폭넓고 심층적인 방어 전략을 요구합니다.

공격자들이 AI를 활용해 취약점을 찾아내고 악용함에 따라, CISO는 공격 표면 전반을 더욱 폭넓게 방어하는 심층 방어에 집중해야 합니다. 이를 위해서는 더 많은 프로토콜과 코드베이스, 구성 데이터까지 보호 범위를 확대하는 동시에 애플리케이션 수명 주기의 모든 단계에 보안 메커니즘을 적용해야 합니다. AI 위협의 부상에 대응하려면 단순히 더 지능적인 도구만 필요한 것이 아니라, 인적 오류를 최소화할 수 있는 포괄적인 보호 체계와 자동화가 필요합니다. 이 새로운 시대에 살아남으려면 모든 계층을 강화하고 어떠한 취약점도 방치하지 않아야 합니다.

자세히 알아보려면 F5 NGINX App Protect 웹페이지를 방문하세요.

작성자 소개

Navpreet Gill수석 제품 마케팅 매니저 | F5 NGINX

Navpreet Gill의 다른 블로그 게시물