AI 보안: 미래는 런타임에 달려 있다

F5 ADSP | 2025년 1월 09일

기업에 AI가 가져다줄 가능성은 무궁무진하며, 의료부터 금융기관, 정부 등에 이르기까지 모든 산업이 AI 도입에 적극적으로 나서고 있습니다. 한 가지 분명한 사실은 이러한 열기가 당분간 식지 않을 것이라는 점입니다. AI 보안은 AI 도입에 매우 중요하며, 현재 피라미드 형태로 자리 잡아가고 있습니다.

AI 피라미드의 정점

AI 생태계의 최정점에는 극소수만이 진입할 수 있는 기반 모델 학습 영역이 있습니다. 이 영역은 막대한 컴퓨팅 자원을 활용하고 방대한 데이터세트의 복잡성을 다룰 수 있는 소수의 조직만이 차지하고 있습니다. 여기에 필요한 재정적 투자는 천문학적이며, 이로 인해 선도 기업들조차 장기적인 지속 가능성에 대한 타당한 의문을 제기하고 있습니다. 이 단계에서는 보안이 무엇보다 중요하며, 데이터 수집과 전처리부터 모델 학습, 테스트, 배포에 이르는 모든 과정이 보안 범위에 포함됩니다. AI 세계의 핵심 자산을 보호하는 일은 단순한 기술적 필요를 넘어 비즈니스의 필수 과제입니다. 이러한 기업들은 학습 과정 전반에 걸쳐 이 모든 요소를 직접 관리하므로 이 과제를 수행하기에 독보적으로 유리한 위치에 있습니다.

중간 계층: 런타임을 보호하고, 대중을 보호하라

정점 아래에서는 사전 학습된 파운데이션 모델의 역량을 런타임에 활용하려는 수많은 기업과 조직의 사용 사례가 등장하고 있습니다. 바로 이 지점에서 AI의 진정한 민주화가 이루어집니다. 이러한 조직의 보안은 자체 인프라와 데이터, 궁극적으로는 고객과 사용자를 보호하는 데 중점을 둡니다. 내부 작동 방식이 드러나지 않는 불투명한 블랙박스로 파운데이션 모델을 취급하는 것이 가장 신중한 보안 태세입니다. 이 접근 방식은 공격 표면을 최소화하고, 모델 내부의 복잡성과 관계없이 모델과 애플리케이션 주변에 강력한 보안 조치를 구현할 수 있게 합니다.

기반부: 폭은 1마일이지만 깊이는 1인치

생성형 AI(GenAI) 붐이 일면서 많은 기업이 기존의 머신러닝 모델 학습 보안에서 런타임을 포함한 생성형 AI의 전체 수명 주기를 보호하는 방향으로 전환하려 하고 있습니다. 이러한 광범위한 접근 방식은 의도는 좋지만, 흔히 범위만 넓고 깊이는 부족한 보안 솔루션으로 이어집니다. 이처럼 방대하고 복잡한 영역 전체를 보호하려다 보면 초점이 흐려지고, 결국 각 단계의 고유한 특성, 특히 핵심적인 런타임 계층을 제대로 다루지 못하게 됩니다.

AI 런타임을 위한 종합 보안

빠르게 진화하는 AI 혁신으로 인해 보안 솔루션도 직면한 위협만큼 유연하고 고도화되어야 하는 현실이 형성되고 있습니다. 이러한 방식으로 AI를 보호할 수 있는 유일한 방법은 런타임 계층에서 보안을 구현하는 것이며, 이를 위해서는 다음 세 가지 핵심 영역을 아우르는 총체적인 접근 방식이 필요합니다:

방어: 강력한 방어 메커니즘이 매우 중요합니다. 여기에는 프롬프트 인젝션 공격을 방지하기 위한 입력 검증 및 정제, 유해한 콘텐츠 생성을 완화하기 위한 출력 필터링, 비정상적인 동작을 탐지하기 위한 런타임 모니터링이 포함됩니다. 애플리케이션마다 고유한 보안 요구 사항이 있으므로 구체적인 사용 사례를 이해하는 것이 무엇보다 중요합니다. 또한 전체 AI 파이프라인을 표적으로 삼는 교차 영역 공격을 고려하는 것도 필수적입니다.
공격: 효과적인 레드팀 활동은 내부 구조가 불투명한 파운데이션 모델과 이를 기반으로 구축된 애플리케이션의 취약점을 식별하는 데 필수적입니다. 여기에는 적대적 테스트, 잠재적 공격 경로 탐색, 완화 전략 개발이 포함됩니다. 이러한 선제적 접근 방식은 조직이 새롭게 등장하는 위협에 한발 앞서 대응하고 AI 배포의 견고성을 보장하는 데 도움이 됩니다.
거버넌스, 규제 및 규정 준수(GRC): 끊임없이 변화하는 규제 환경에 대응하는 것은 AI 보안의 핵심 요소입니다. 각 관할권과 산업 분야에는 고유한 규칙과 규정이 적용됩니다. 문서상의 방어 체계를 준수하는 것도 필요하지만, 이러한 요구 사항을 실질적인 보호 조치로 전환하는 실용적인 보안 통제를 구현하는 것 역시 중요합니다.

조직의 AI 런타임 보안 강화

AI 런타임의 미래를 효과적으로 보호하려면 조직은 다음과 같은 구체적인 조치를 취해야 합니다:

AI 검토 그룹 구성: 이 교차 기능 그룹에는 AI 거버넌스 및 위험 관리에 대한 종합적인 접근 방식을 보장하기 위해 기술, 법무 및 보안 팀의 담당자가 참여해야 합니다.
AI 애플리케이션 제안 프로세스 도입: 이 프로세스에서는 각 팀이 AI 애플리케이션별 사용 목적, 데이터 소스 및 대상 지역을 명확하게 정의하도록 해야 합니다. 이를 통해 철저한 위험 평가를 수행하고 적절한 보안 조치를 구현할 수 있습니다.
최소 보안 요구 사항 정의: AI 애플리케이션 개발팀이 준수하고 애플리케이션 보안팀이 검증해야 하는 명확한 보안 표준을 수립합니다. 이를 통해 모든 AI 배포 환경에서 기본적인 보안 수준을 확보할 수 있습니다.

시작하는 데 도움이 될 핵심 자료를 소개합니다.

AI의 미래는 AI를 안전하게 보호하는 역량에 달려 있습니다. 기업은 런타임 계층 보안에 대한 총체적인 접근 방식에 집중함으로써 위험을 완화하는 동시에 AI의 혁신적인 잠재력을 실현할 수 있습니다.

조직에 포괄적인 AI 보안 통제를 구현하는 방법을 자세히 알아볼 준비가 되셨나요? 지금 여기에서 데모를 예약하세요.