멀티모델 AI 보안 전략: 지금 취해야 할 두 가지 조치

Lee Ennis데이터 사이언스 수석 매니저 | F5

올해 업계에서는 AI 보안이 주요 화두로 떠오르고 있지만, 가장 안전한 방향을 모색하는 일은 막막하게 느껴질 수 있습니다. 갈수록 강력해지는 모델의 빠른 출시, 에이전트 트래픽의 급증, 섀도 AI의 확산, 그리고 적대 세력의 손에 들어간 프런티어 모델의 위협은 일상적인 운영과 장기 로드맵 모두에 큰 부담으로 작용하고 있습니다.

리더는 여러 AI 모델을 배포할 때 리소스 할당에 대해서도 전략적으로 고민해야 합니다. 사소한 볼일을 보러 갈 때 포르쉐 911 터보를 몰지 않듯이, 간단한 작업에 가장 비싸고 컴퓨팅 자원을 많이 소모하는 모델을 사용해서는 안 됩니다. AI 효율성을 극대화하는 것이 중요하지만, 쉴 새 없이 쏟아지는 일상 업무에서 한발 물러나 더 넓은 관점을 확보하는 일은 여전히 쉽지 않습니다.

물론 그렇다고 해서 AI 도입 속도가 느려지는 것은 아닙니다. 제12차 연례 설문조사에서 전 세계 IT 의사결정권자를 대상으로 조사한 결과, AI 앱이 이미 프로덕션 시스템과 운영 워크플로에 얼마나 깊숙이 자리 잡았는지 확인할 수 있습니다. 연 매출이 10억 달러 이상인 기업에서는 평균적으로 앱의 55%가 이미 AI를 지원하며, 불과 몇 년 만에 절반을 넘어섰습니다. 한편, 조직의 78%는 적어도 일부 추론 작업을 자체적으로 관리하고 있습니다.

‘준비됐든 아니든’은 안전하지 않습니다

안타깝게도 데이터에 따르면 많은 조직이 준비가 충분히 되기도 전에 앞서 나가고 있습니다. AI 도입 속도가 가시성 확보 속도를 앞질렀다는 사실에는 의문의 여지가 거의 없습니다. 설문조사 응답자의 3분의 1 이상(35%)은 자사의 인프라가 AI 워크로드에 필요한 거버넌스, 관측 가능성 및 보안을 제공할 준비가 되어 있지 않다고 인정했습니다. 다른 조직들 역시 제대로 된 전조등도 없이 상황을 통제하고 있다는 잘못된 확신에 빠져 안갯속으로 질주하고 있을 가능성이 큽니다.

다행히도 조직이 안전하게 AI 성공을 향해 나아갈 수 있도록 지금 바로 취할 수 있는 몇 가지 핵심 조치가 있습니다.

1단계: 멀티모델 AI의 주도권을 잡으세요

첫 번째 단계는 멀티 모델 배포를 직접 통제하는 것입니다. 일반적인 조직은 프로덕션 환경이나 실제 평가 과정에서 서로 다른 7개의 모델 또는 모델 제품군을 사용하며, 다수의 F5 고객을 포함한 대기업은 보통 이보다 더 많은 모델을 사용합니다. 조직의 52%가 모델을 연계하거나 오케스트레이션하고 있지만, 거의 절반은 별다른 조정 없이 일관되지 않은 보안 체계로 여러 모델을 운영하고 있습니다.

AI 모델이 더 확산되기 전에 현재 사용 중인 모델과 추론 서비스의 목록을 작성하십시오. 이를 보안과 최적화가 필요한 새로운 인프라 계층으로 간주하십시오:

• 중복 요소 파악: 중복되는 기능을 찾아내고 호환성 문제를 조기에 해결하세요.
• 비용 요인 분석: 컴퓨팅 예산이 정확히 어디에 사용되는지 파악하세요.
• 보안 위험 평가: 특정 모델이나 워크로드에 존재하는 취약점을 정확히 파악하세요.
• 작업을 모델에 맞게 배정: AI 모델은 비즈니스 성장에 도움이 되는 작업을 수행하도록 하고, 보다 일상적인 요구 사항은 그 가치에 부합하는 비용으로 범용 서비스가 처리하도록 하세요.

모델 레지스트리와 같은 도구는 종속성을 명확히 파악하고, 원활한 모델 전환이나 장애 조치를 위한 오케스트레이션 프레임워크를 구현하는 데 도움이 됩니다. 포괄적인 인벤토리를 구축하면 효율적인 라우팅과 복원력을 확보하고 일관된 보안을 제공할 수 있으며, 비용·복잡성·보안 문제 없이 더 쉽게 확장할 수 있습니다.

2단계: 급증하는 AI 트래픽에 대응하기

인벤토리를 구축하면 다음의 주요 난관인 AI 에이전트의 폭발적인 증가에도 대비할 수 있습니다. 자동화 및 AI 기반 트래픽은 이미 전체 인터넷 트래픽의 절반 이상을 차지하고 있습니다. 조직의 3분의 2가 추가적인 자동화를 추진하기 위해 AI를 사용하면서 웹상의 에이전트 수가 기하급수적으로 증가하고 있습니다. 실제로 조직의 77%는 이미 에이전트의 ID 및 액세스 제어가 운영 및 보안상의 과제를 초래할 것으로 예상하고 있습니다.

이러한 우려는 타당합니다. 머신 ID의 액세스를 관리하다 보면 보안 관리자의 업무가 순식간에 과중해질 수 있으며, 자격 증명 도용, 권한 남용, 사칭과 같은 심각한 위험이 발생할 수 있습니다.

비인간 ID에 대한 엄격한 거버넌스 정책을 수립하여 재해를 방지하세요. 효과적인 접근 방식으로는 ID 인식 로드 밸런서를 통해 트래픽을 라우팅하고, 자율 AI 작업을 되돌릴 수 있는 성능 최적화로 제한하는 가드레일을 구현하는 것이 있습니다. 비결정적 작업을 보호하는 것은 어려울 수 있지만, 당사의 최근 발표된 F5 AI Security Platform과 같은 플랫폼 보안 솔루션을 활용하면 추측에 의존할 필요가 없습니다.

거버넌스 체계를 수립할 때는 에이전트 서비스 사용량에 대한 경제성 모델링을 반드시 포함해야 합니다. 수익 모델은 여전히 변화하고 있으며, 조만간 작업별 또는 상호작용별 요금제가 기존의 사용자별 요금제를 대체할 수 있습니다. 안전벨트와 롤바가 오프로드 모험의 안전성을 높여 주듯이, 이러한 거버넌스 문제를 지금 해결하면 향후 워크플로를 방해하지 않으면서 예측하기 어려운 에이전트 트래픽에 대비할 수 있습니다.

이는 에이전틱 AI가 폭발적으로 성장하는 가운데 조직이 멀티모델 AI에 대한 가시성과 사이버 보안을 강화하기 위해 고려해야 할 몇 가지 조치에 불과합니다. 자세한 내용은 최신 보고서인 “2026년 AI 추론 환경 현황: 애플리케이션 인프라에 미치는 영향”을 참조하세요.

작성자 소개

Lee Ennis데이터 사이언스 수석 매니저 | F5

Lee Ennis는 F5에서 AI 데이터 과학 및 연구팀을 이끌며, 기업이 대규모 언어 모델(LLM)과 생성형 AI 시스템을 안전하게 배포하고 모니터링할 수 있도록 지원하는 고급 AI 보안 솔루션 개발에 주력하고 있습니다. 그의 팀은 머신러닝, 적대적 테스트, 모델 보증 분야의 전문성을 결합해 취약점을 식별하고 AI 기반 환경에 대한 신뢰를 강화합니다.

Lee Ennis의 다른 블로그 게시물