이 주제에 관한 기존 글에서는 핵심을 명확히 짚습니다. 보안과 규제 준수는 부차적인 문제가 아닙니다. 이는 애플리케이션 성능, 가용성, 확장성 및 운영 효율성에 직접적인 영향을 미칩니다. 규제 요건을 충족하지 못하면 법적 위험에 노출되고 운영 부담이 커질 수 있으며, 경우에 따라서는 서비스 제공이 완전히 중단될 수도 있습니다. 또한 기존 지침에서는 암호화, FIPS 준수 장치, 자동화된 규정 준수 검사와 같은 일반적인 완화 조치도 강조합니다.
그러한 기본 원칙은 여전히 유효합니다.
AI로 인해 달라지는 것은 규정 준수가 이루어져야 하는 지점과 이를 적용해야 하는 빈도입니다.
기존 애플리케이션은 대부분 사전에 정의된 경로를 따릅니다. 요청을 처리하고, 알려진 시스템에 액세스하며, 예상된 결과를 반환합니다. AI 애플리케이션에는 확률적 의사 결정 계층이 추가됩니다. 프롬프트를 해석하고, 응답을 종합하며, 외부 컨텍스트를 검색하고, 점점 더 많은 도구를 호출하거나 작업을 실행합니다. 따라서 규정 준수는 더 이상 데이터 저장소와 전송 경로를 보호하는 데만 국한되지 않습니다. 런타임 동작, 모델 액세스, 생성된 결과물, 시스템 내 컨텍스트의 흐름까지 관리해야 합니다.
따라서 기존의 문제는 여전히 남아 있습니다. 문제의 범위는 더 넓어지고, 통제 조치는 추론이 이루어지는 지점에 더 가깝게 적용되어야 합니다.
보안 및 규제 준수 미흡으로 인한 결과
성능에 미치는 영향
기존의 애플리케이션 전송 환경에서는 규정 준수로 인해 발생하는 알려진 오버헤드가 성능에 영향을 미치는 경우가 많습니다. 암호화는 처리 비용을 늘리고, 검사는 지연 시간을 증가시킵니다. 데이터 주권 규정에 따라 트래픽을 특정 관할권 내에 유지해야 할 수 있으며, 이로 인해 라우팅이 복잡해지고 효율성이 저하될 수 있습니다. AI에서도 이러한 부담은 그대로 존재하지만, 새로운 부담이 하나 더해집니다. 이제 요청을 처리하는 도중에 규정 준수 관련 결정을 내려야 합니다.
AI 시스템은 특정 모델이 특정 프롬프트를 처리하도록 허용되는지, 검색에 사용되는 데이터가 법적으로 지역 경계를 넘어갈 수 있는지, 민감한 컨텍스트를 추론 전에 삭제해야 하는지, 생성된 출력을 반환하기 전에 필터링해야 하는지를 판단해야 할 수 있습니다. 이러한 과정에는 모두 비용이 따릅니다. 각각의 검사는 처리 시간을 늘리거나 복잡성을 높이며, 때로는 둘 다를 초래합니다.
그 차이는 미묘하지만 중요합니다. 과거에는 규정 준수가 아키텍처를 좌우하는 경우가 많았습니다. AI 시스템에서는 규정 준수가 런타임 실행을 좌우하는 경우가 점점 늘고 있습니다. 단순히 애플리케이션으로 향하는 경로만 보호하는 것이 아닙니다. 애플리케이션이 사고하는 동안 무엇을 하고 있는지 평가하는 것입니다.
가용성에 미치는 영향
가용성은 언제나 애플리케이션 제공에서 중요한 요소였습니다. 강력한 보안 관행과 FIPS를 준수하는 인프라는 가용성을 높이고 규정 준수 문제로 인한 시스템 종료나 서비스 중단 위험을 줄여 줍니다. 이와 동일한 원칙이 AI에도 적용되지만, 장애가 발생할 수 있는 양상은 더욱 다양해집니다.
기존 애플리케이션에서는 규정 미준수로 인해 트랜잭션이 차단되거나, 특정 리전이 강제로 격리되거나, 통제상의 미비점이 해결될 때까지 서비스가 일시 중단될 수 있습니다. AI 시스템에서는 플랫폼 자체가 계속 가동 중이더라도 가용성이 저하될 수 있습니다. 모델에 접근할 수 있고 API가 정상적으로 작동하며 인프라가 원활하게 운영되고 있더라도, 정책상 요청을 처리할 수 없다면 서비스는 사실상 이용 불가능한 상태가 될 수 있습니다.
이러한 상황은 여러 가지 이유로 발생할 수 있습니다. 규정을 준수하는 모델이 필요한 리전에서 제공되지 않을 수 있습니다. 검색된 문서 집합에 특정 사용자에게 공개하거나 특정 관할권에서 노출할 수 없는 규제 대상 데이터가 포함되어 있을 수 있습니다. 출력이 정책 검사를 통과하지 못해 제공이 보류될 수도 있습니다. 에이전트가 수행하려는 작업 중 하나가 거버넌스 규칙을 위반하면 워크플로를 완료하지 못할 수 있습니다.
따라서 AI에서 가용성은 더 이상 단순히 가동 시간만의 문제가 아닙니다. 정책상 허용되는 실행인지도 중요합니다. 시스템이 기술적으로는 온라인 상태이지만, 운영상 답변하거나 조치를 취하거나 작업을 완료하지 못할 수 있습니다. 이는 기존의 가용성 개념으로는 온전히 설명하기 어려운, 매우 다른 유형의 장애입니다.
운영 효율성에 미치는 영향
자동화된 규정 준수 관행은 수작업 개입을 줄이고 IT 팀이 끊임없는 규제 대응 대신 더 높은 가치를 창출하는 업무에 집중할 수 있도록 지원합니다. 이러한 논리는 여전히 유효합니다. 문제는 AI 시스템으로 인해 관리가 필요한 상황이 훨씬 더 많이 발생한다는 점입니다.
기존의 규정 준수 프로그램은 비교적 안정적인 환경을 전제로 합니다. 데이터 처리 규칙, 액세스 제어, 검사 지점 및 감사 절차를 정의한 다음, 시스템이 이를 준수하는지 검증합니다. 이 작업은 결코 간단하지 않지만, 그 범위는 명확합니다.
AI는 이러한 경계를 허뭅니다. 출력은 동적으로 생성되며, 실행할 때마다 작업 경로가 달라질 수 있습니다. 에이전트는 여러 요청을 연계하고 도구를 호출하며 시간이 지남에 따라 컨텍스트를 축적할 수 있습니다. 따라서 팀은 더 이상 정적 검증에만 의존할 수 없습니다. 런타임 모니터링과 지속적인 정책 평가, 그리고 동작에 대한 가시성 향상이 필요합니다.
이로 인해 운영 부담이 증가하며, 이를 감당할 수 있도록 제공 및 보안 계층을 설계하지 않으면 문제가 됩니다. 그렇지 않으면 조직은 정책을 조정하고, 비정상적인 출력을 조사하며, 지시를 따랐음에도 비즈니스 또는 규제 의도에 어긋나는 결과를 생성한 이유를 설명하려는 작업을 끊임없이 반복하게 됩니다. 이는 감사의 문제가 아니라 제어 영역의 문제입니다.
보안 및 규정 준수 위험 완화를 위한 모범 사례
암호화 및 FIPS 준수 기기
이 부분은 변경되지 않습니다. 암호화는 전송 중이거나 저장된 민감한 데이터를 보호하는 데 여전히 필수적이며, 기존 ADC08에서도 규제 대상 데이터를 보호하고 복원력 있는 서비스 제공을 지원하기 위한 기본 관행으로 암호화와 FIPS 준수 장치를 명시하고 있습니다.
달라진 점은 AI가 입력과 출력 사이의 계층에 위험을 초래한다는 사실을 인식하게 되었다는 것입니다.
다시 말해, 전송 구간이 암호화되고 저장소가 규정을 준수하더라도 모델이 전달받는 컨텍스트를 안전하게 처리할 것이라는 신뢰가 필요하며, 모델이 생성하는 결과물도 적절히 통제해야 합니다. 프롬프트 인젝션, 민감한 컨텍스트 노출, 부적절한 출력 처리는 기반 암호화가 완벽하더라도 발생할 수 있는 문제입니다. 견고한 기반은 여전히 중요합니다. 기반이 없으면 나머지 모든 것이 무너지기 때문입니다. 다만 이제는 그것만으로 전체 공격 표면이나 규정 준수 범위를 모두 포괄할 수 없습니다.
따라서 기존의 통제 조치는 여전히 필요합니다. 다만 이제는 그것만으로 충분하지 않습니다.
자동화된 규정 준수 검사
기존 지침에서는 수동 감사 업무를 줄이고, 정책을 일관되게 적용하며, 잠재적인 위반 사항을 신속하게 식별하기 위해 자동화된 규정 준수 검사와 실시간 모니터링을 권장합니다. 이러한 지침은 AI 환경에서 더욱 중요해지지만, 그에 맞게 발전해야 합니다.
기존 애플리케이션에서 자동화된 규정 준수는 일반적으로 구성을 점검하고, 데이터 저장 위치를 검증하며, 액세스 패턴을 모니터링하고, 설정이 기준에서 벗어날 경우 경고를 보내는 것을 의미합니다. AI 시스템에서는 여기에 더해 프롬프트를 검사하고, 모델 선택을 검증하며, 검색 소스를 모니터링하고, 출력을 점검하며, 경우에 따라 시간의 흐름에 따른 일련의 작업을 평가하는 것까지 포함해야 합니다.
이것이 진정한 전환점입니다. 규정 준수 자동화는 정적인 검증에서 런타임 적용으로 전환됩니다.
이제 목표는 단순히 환경이 올바르게 구성되었는지 확인하는 데 그치지 않습니다. 시스템이 운영되는 동안에도 허용 가능한 범위 내에서 계속 작동하도록 보장하는 것입니다. 이를 위해서는 더 많은 맥락과 가시성이 필요하며, 딜리버리 경로에 더 많은 정책 로직을 내장해야 합니다. 또한 과거에 ‘컴플라이언스’로 간주되던 요소가 이제는 요청 처리 자체의 일부가 되는 경우가 많아지면서, 애플리케이션 딜리버리 기능과 보안 기능이 서로 융합되기 시작한다는 의미이기도 합니다.
결론
보안 및 규제 준수의 미비는 계속해서 성능, 가용성, 확장성, 운영 효율성을 위협하고 있습니다. 기존의 통제 수단, 암호화, FIPS 준수 인프라, 자동화된 규정 준수 도구는 여전히 이러한 위험을 완화하는 기반입니다. AI가 바꾸는 것은 문제의 중심입니다.
기존 시스템에서 규정 준수는 주로 애플리케이션을 둘러싼 영역에 적용되었습니다. AI 시스템에서는 규정 준수가 의사 결정 프로세스 자체에까지 관여해야 합니다. 모델이 어떤 데이터를 보고, 어떤 결과를 생성하며, 어떤 작업을 시도하는지, 그리고 그러한 동작이 규제 및 조직의 경계 내에서 이루어지는지를 모두 고려해야 합니다.
변함없는 것은 체계적인 보안과 견고한 제공 아키텍처가 필요하다는 점입니다.
달라진 점은 이제 가동 시간만으로는 충분하지 않고, 암호화만으로도 충분하지 않으며, 정적인 정책 검사만으로도 충분하지 않다는 것입니다.
AI는 시스템이 단순히 요청을 처리하는 데 그치지 않고 의사결정에 참여하기 때문에 그 중요성과 위험성을 한층 높입니다. 그렇게 되면 규정 준수는 런타임에서 다뤄야 할 문제가 됩니다.
전 세계 조직이 직면한 애플리케이션 딜리버리의 10대 과제에 대해 자세히 알아보세요.
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
애플리케이션 딜리버리 10대 과제란 무엇인가요?
F5는 애플리케이션 딜리버리 10대 과제 목록을 통해 조직이 애플리케이션, API 및 생성형 AI를 제공하고 보호하는 과정에서 직면하는 문제를 해결할 수 있도록 지원하고자 합니다.
AI 앱 딜리버리 10대 과제: 호환되지 않는 딜리버리 정책
정책 불일치는 AI 장애를 유발합니다. 일관되지 않은 장애 조치, 타임아웃, 제한 및 보안 제어로 인해 소프트 장애와 불완전한 결과가 발생하고, 엔드포인트마다 서로 다른 결과가 나타납니다.
AI 앱 제공의 10대 과제: 지연 시간을 처리하지 못하는 문제
AI로 인해 지연 시간은 단순한 성능 문제가 아니라 신뢰의 문제가 됩니다. 느린 ‘어시스턴트’ 응답은 망설이거나 제대로 작동하지 않는 것처럼 느껴지며, 토큰이 많은 프롬프트와 출력은 시스템이 정상일 때조차 처리해야 할 작업량을 늘립니다.
AI 앱 제공 10대 과제: 최적화되지 않은 트래픽 조정
AI는 기존의 트래픽 스티어링 전제를 무너뜨립니다. 백엔드는 서로 대체 가능하지 않고, 비용은 제각각이며, 에이전트는 예측할 수 없이 여러 방향으로 요청을 확산시킵니다. 따라서 라우팅 시 모델, GPU 상태, 데이터 지역성을 고려해야 합니다.
AI 앱 제공 10대 위험: 불충분한 트래픽 제어
기존의 속도 제한과 스로틀링만으로는 실제 장애 파급 범위를 제대로 파악할 수 없습니다. AI 워크로드는 여러 모델, 벡터 저장소, 서비스로 확산되며 지연 시간 급증, 연쇄 장애, 재시도를 유발합니다.
AI 앱 제공의 10대 과제: 불완전한 관측 가능성
AI는 저절로 확장되지 않습니다. 도구와 소유권의 경계를 허무는 통합 제어 플레인이 없다면, 추론 계층은 가장 취약하고 조율 부담이 큰 계층이 됩니다.