빠르게 진화하는 AI에 발맞춘 보안

AI 보안 동향: 최근 웨비나에서 얻은 주요 인사이트

AI가 얼마나 발전했는지 가늠해 보고 싶으신가요? 그렇다면 윌 스미스의 스파게티 먹기 테스트를 떠올려 보세요. 불과 5년도 채 되지 않아, 제한적인 텍스트 기반 AI에서 에이전틱 AI가 점점 더 널리 활용되는 시대로 발전했습니다.

오늘날 많은 조직이 웹 애플리케이션에 어떤 형태로든 AI를 도입하고 있습니다. 하지만 특히 이처럼 빠르게 변화하는 환경에서 AI 애플리케이션을 어떻게 적절히 보호할 수 있을까요? 전 세계적으로 AI 성숙도가 높아지면서 보안 실무자들이 우려하는 AI 관련 문제도 더욱 고르게 분포하고 있습니다. ​

최근 웨비나 "변화의 속도에 발맞추는 AI 보안"에서 Mark Toler와 David Warburton은 이러한 새로운 현실을 형성하는 과제와 해결책에 관한 획기적인 인사이트를 공유했습니다. 깊이 있는 논의를 통해 얻은 핵심 내용을 요약해 소개합니다.

1. 진화하는 AI 보안에 대한 인식

Mark는 먼저 보안 실무자들이 AI에 대해 현재 어떤 인식을 갖고 있는지 살펴보았습니다. 그의 팀은 주요 사이버 보안 포럼의 사용자 대화를 분석하도록 학습된 여러 AI 언어 모델을 활용해 시급한 우려 사항을 도출했습니다.

전반적으로 그는 관리되지 않는 AI 배포에서 고객이 직접 관리하는 솔루션으로 업계의 흐름이 전환되고 있으며, 이는 AI 통합을 다루는 역량이 점차 성숙해지고 있음을 보여준다고 언급했습니다. 그러나 섀도 AI와 AI 시스템에 과도한 자율성을 부여하는 문제는 여전히 주요 우려 사항으로 남아 있습니다.

2. AI로 인한 위협의 급속한 확산

웨비나에서는 진화하는 위협 환경을 조명하며, AI 시스템으로 인해 더욱 정교한 공격이 가능해지고 있다는 점에 주목했습니다. 공격자들은 AI를 활용한 블라인드 SQL 인젝션 공격부터 대규모 취약점 탐지 및 악용 자동화에 이르기까지 이러한 첨단 도구를 전례 없는 방식으로 활용하고 있습니다. 그 결과 복잡한 사이버 공격의 진입 장벽이 낮아져, 숙련도가 낮은 공격자조차 심각한 위협을 가할 수 있게 되었습니다.

3. 실용적인 해결책: Guardrails와 레드팀 테스트

이러한 위협에 대응하기 위해 F5 AI Guardrails 및 AI 레드팀과 같은 솔루션이 중요한 역할을 합니다. 기존의 침투 테스트로는 매우 광범위한 AI 공격 패턴을 따라잡기 어려운 반면, AI 레드팀은 핵심적인 도구로 부상하고 있습니다. 이러한 AI 기반 접근 방식은 테스트 속도를 높이고 실제 공격 시나리오를 시뮬레이션하여 실무자가 선제적으로 방어 체계를 강화할 수 있도록 지원합니다.

또한 가드레일은 AI 시스템이 프로그래밍된 범위를 벗어나지 않도록 방지하는 핵심 도구입니다. Mark는 AI 보안을 위한 내부 관행으로서 "최소 권한 액세스"의 중요성을 설명하며, 시스템이 기능 수행에 필요한 항목에만 액세스할 수 있도록 해야 한다고 강조했습니다. 이를 맞춤 설정 가능한 AI 가드레일과 함께 적용하면 프롬프트 인젝션, 탈옥 공격 및 기타 취약점에 대한 강력한 방어 체계를 구축할 수 있습니다.

4. 차세대 과제: 사람과 AI 트래픽 구분하기

논의된 또 다른 시급한 주제는 사람과 AI의 트래픽을 구분하는 문제였습니다. 비인간 ID가 점점 더 보편화되면서 Model Context Protocol(MCP) 및 Agent Gateway Protocol(AGP)과 같은 새로운 프로토콜이 이처럼 커지는 우려를 해결할 유망한 방안으로 떠오르고 있습니다. 그러나 아직 업계의 합의가 이루어지지 않은 만큼, 향후 발전 양상을 주시해야 할 분야입니다.

5. LLM 보안 정량화

웨비나에서 David는 F5의 월간 CASI 및 ARS 점수를 중점적으로 소개했습니다. 이 점수는 수십 개의 주요 LLM을 대상으로 성능, 취약성 및 보안 효과를 평가하는 데 사용할 수 있습니다. 또한 조직이 비용, 속도 및 보안 기능을 기준으로 모델을 비교하여 각자의 사용 사례에 가장 적합한 모델을 선택할 수 있도록 지원합니다. David는 시중의 다양한 LLM을 자세히 설명하면서 경제성과 높은 성능 및 보안 간의 균형이 중요하다고 강조했습니다.

결론:

AI는 엄청난 잠재력을 지니고 있지만, 그만큼 중대한 위험도 수반합니다. 따라서 보안팀은 AI와 AI 보안 도구가 실제로 제공할 수 있는 기능에 대해 과장된 기대와 현실을 구분해야 합니다.

조직은 AI Guardrails 및 AI 레드팀과 같은 최첨단 도구를 활용하고 최소 권한 액세스와 같은 원칙을 도입함으로써 빠르게 변화하는 환경에서 앞서 나갈 수 있습니다. AI 보안의 미래는 선제적 조치, 강력한 거버넌스, 그리고 지속적으로 발전하는 모범 사례에 달려 있습니다.

더 자세히 알아보고 싶으신가요? 전체 웨비나를 온디맨드로 시청하고 Mark와 David의 이야기를 직접 들어보세요.