주목해야 할 5가지 트렌드
전 세계 IT 의사결정권자 1,100여 명을 대상으로 한 설문조사 결과에서 알 수 있듯이, 자체 관리형 추론과 멀티모델 AI가 폭발적으로 확산되고 있습니다. 보안 리더라면 반드시 주목해야 할 다음 5가지 인프라 관련 시사점을 살펴보세요.
인프라로서의 멀티모델 AI
모델 라우팅은 새로운 보안 경계를 형성합니다
오늘날 조직은 평균 7개의 AI 모델을 사용하며, 52%는 여러 모델을 연계하거나 오케스트레이션합니다. 이로 인해 라우팅 조작, 모델 체인을 통한 데이터 유출, 모델 간 일관되지 않은 정책 적용과 같은 새로운 보안 위험이 발생합니다. 모델 라우팅은 인프라의 일부이므로 애플리케이션 트래픽 라우팅과 유사한 수준의 관측 가능성과 제어가 필요합니다.
폭발적으로 성장하는 AI 기반 자동화
급증하는 자동화 트래픽에는 거버넌스가 필요합니다
API 호출, 정책 업데이트, 구성 변경, 심지어 인프라 변경과 같은 머신 트리거 자동화가 곧 사람이 시작하는 운영 트래픽을 넘어설 전망입니다. 하지만 대부분의 환경은 머신 수준의 속도와 규모로 발생하는 이러한 요청을 모니터링하거나 제어할 준비가 되어 있지 않습니다. 새로운 범주의 시스템 활동인 자동화 트래픽에는 새로운 관리 솔루션이 필요합니다.
추론 트래픽 보안
추론 트래픽 보안은 애플리케이션 보안과 유사합니다
이미 절반이 넘는 조직이 게이트웨이와 로드 밸런서 같은 공유 인프라를 사용해 AI 추론을 제공하고 보호하고 있습니다. 또 다른 37%는 1년 이내에 이를 도입할 계획입니다. 여전히 모델 거버넌스에 주로 집중하고 있는 보안 팀은 보안 경계가 추론 경로로 이동했다는 사실을 인식해야 합니다. 프롬프트가 요청처럼, 응답이 앱의 출력처럼, 모델이 서비스처럼 작동한다면, 이러한 추론 트래픽도 다른 모든 핵심 앱 상호작용과 마찬가지로 전송, 검사, 인증 및 관리되어야 합니다.
앱 경로의 AI
AI가 앱 스택에 합류했습니다
더 이상 실험이나 독립된 기능에 머물지 않는 오늘날의 AI 모델은 프로덕션 애플리케이션의 핵심 의존 요소로 자리 잡았으며, 앱이 API나 마이크로서비스를 호출하는 것과 같은 방식으로 추론 엔드포인트에 접근합니다. 하지만 AI가 애플리케이션 경로에 포함되는 순간, 다른 런타임 의존 요소와 마찬가지로 안정적으로 제공하고 관찰하며 보호해야 합니다.
인프라 준비 상태
준비 태세란 역량과 통제력을 모두 갖추는 것을 의미합니다
조직의 3분의 1 이상과 고위 IT 리더의 40%는 현재 인프라가 대규모 AI를 지원하는 데 필요한 컴퓨팅, 스토리지, 네트워킹 또는 기타 성능 요건을 충족하지 못한다고 답했습니다. 보안 아키텍처는 이보다도 더 미흡할 수 있습니다. 추론이나 에이전트 오케스트레이션을 지원하도록 설계되지 않은 환경은 관련 트래픽을 관찰하고 보호할 수 있도록 설계되지도 않았습니다. 이러한 사각지대는 보안 위험을 초래합니다.
조직을 보호하고 사전에 계획하여 AI 앱을 대규모로 성공적으로 제공하세요. 이러한 인사이트를 인포그래픽으로 다운로드해 조직 내 의사 결정권자들과 공유하세요.
