이커머스의 미래는 에이전틱 AI입니다

업계 동향 | 2025년 12월 02일

리테일 기업들은 온라인 플랫폼의 고객 경험과 운영 전반에서 실질적인 비즈니스 성과를 창출하기 위해 특정 업무에 특화된 에이전틱 AI 도구를 개발하고 있습니다.

개인 쇼핑 에이전트가 등장함에 따라, 기업들은 AI 에이전트가 주도하는 쇼핑을 지원하도록 인프라를 발전시키고 있으며, 이는 보안 측면에서 중대한 영향을 미칩니다.

“소매업체는 자율 에이전트를 적절히 관리할 수 있도록 위험 전략과 보안 방어 체계를 조정해야 합니다.”

방어 담당자들은 방대한 데이터와 경보, 로그에 파묻혀 있습니다. 이들은 환경에서 침해 지표가 발견되기 전에 가장 중대한 위협을 우선적으로 처리하여 복잡성을 줄이고 효율적으로 대응할 수 있도록, 즉시 활용 가능한 맥락 정보가 필요합니다.

이 블로그에서는 자율 에이전트가 어떻게 통제 불능 상태에 빠질 수 있는지, 그리고 보안 및 위험 관리 팀이 에이전트에 어떤 작업 권한을 부여할지 신중하게 결정해야 하는 이유를 자세히 살펴봅니다.

소매업의 현실

리테일 기업에게 에이전틱 AI의 잠재력은 무궁무진합니다. 한 선도적인 이커머스 기업은 이미 고객의 구매 신호와 역동적인 매장 환경을 실시간으로 파악하는 고도화된 개인 쇼핑 도우미를 도입하고 있습니다.

간소화된 고객 참여가 제공하는 비즈니스 가치와 경쟁 우위는 강력한 추진 요인이지만, 보안에 미치는 영향도 상당합니다. AI 에이전트와 달리 에이전틱 AI는 스스로 인식하고 추론하며 행동하도록 설계되었습니다. 이러한 자율성은 추적 가능성, 책임 소재, 거버넌스에 관한 문제를 수반합니다.

“선도적인 이커머스 기업들은 이미 복잡한 작업을 수행하는 개인 쇼핑 도우미를 도입하고 있습니다.”

전자상거래 부문은 이미 웹 및 모바일 API 모두에서 고도화된 공격의 비중이 가장 높은 분야 중 하나이며, 장바구니 담기 거래 5건 중 1건을 리셀러 봇이 차지하고 있습니다. 공격자들은 백엔드 대규모 언어 모델(LLM)을 겨냥한 사이버 공격을 대규모로 수행하기 위해 계속해서 봇을 활용할 것이며, 이미 주요 소매업체의 클릭 앤 콜렉트와 같은 핵심 온라인 서비스를 마비시킨 해킹 조직들은 에이전트형 워크플로를 표적으로 삼도록 기존의 전술, 기법 및 절차(TTP)를 틀림없이 개조할 것입니다.

소매업체는 에이전트형 AI를 안전하게 배포하기 위한 새로운 접근 방식이 필요합니다. 자율 에이전트의 고유한 아키텍처와 행동을 고려해 위험 관리 전략과 보안 방어 체계를 조정하지 않는 것은 기업의 법적 책임으로 이어질 수 있습니다.

기존 도구는 이제 내려놓으세요

아, 좋았던 옛날이여! 경계를 보호하고, 네트워크 및 웹 애플리케이션 방화벽과 같은 보안 통제 수단을 배포하며, 정적 및 동적 테스트를 수행하면 됐습니다. 남북 방향 트래픽이 주를 이루고 기존 웹 앱 보안으로 위험을 막을 수 있었던 클라이언트-서버 아키텍처에서는 이러한 방식이 효과적이었습니다. 하지만 급속한 애플리케이션 현대화, API 기반 시스템의 부상, 고도로 상호 연결된 AI 생태계로 인해 위험 표면이 광범위하게 확대되고 머신 간(동서 방향) 트래픽이 기하급수적으로 증가했습니다.

이후 많은 기업이 자연어 처리(NLP) 인터페이스를 도입했습니다. 보안팀이 이를 따라잡기 위해 분주히 움직이는 사이, 기업들은 이제 에이전틱 AI를 도입하고 있습니다.

“보안 모범 사례와 프레임워크, 규제 감독 체계가 에이전틱 AI로 인해 한계 시험대에 오르고 있습니다.”

심층 방어와 같은 기존 패러다임은 여전히 유효합니다. 프런트엔드에 대한 새로운 AI 공격이 백엔드에서 원격 코드 실행(RCE)과 같은 전통적인 익스플로잇으로 이어지는 경우가 많기 때문입니다.

그러나 윤리적 공개와 같은 확립된 보안 모범 사례, 공통 취약점 및 노출(CVE)과 같은 기존 프레임워크, 그리고 규제 감독은 에이전트형 AI 군비 경쟁의 속도를 따라잡는 데 어려움을 겪고 있습니다.

MCP에 관심 있는 사람?

Model Context Protocol이 해결사로 나섰습니다! Anthropic이 제안한 표준과 Google이 제안한 Agent2Agent(A2A) 프로토콜은 각각 모델과 리소스 간 통신 및 에이전트 간 통신 문제를 해결하는 데 도움이 되지만, 어느 쪽도 상호 운용성 요구 사항 전체를 충족하지는 못합니다 에이전틱 AI에 필요한.

MCP와 A2A는 표준화와 상호 운용성을 향한 큰 진전입니다. 하지만 보안은 어떨까요? 기존 보안 통제 체계가 MCP를 제대로 이해하고 지원할 수 있나요?

도구와 애플리케이션의 폭발적인 증가로 섀도 AI가 확산되고 있으며, AI 에이전트는 새롭게 등장하는 공격 프롬프트를 탐지하지 못해 태생적으로 취약하고 민감한 데이터 유출 위험에 노출됩니다.

“방어자는 기존 통제 체계를 보완하고 새로운 통제 수단을 도입하여 거버넌스를 확립해야 합니다.”

보안 및 위험 관리 팀은 에이전틱 AI 위험을 통제하기 위해 기존 통제 수단을 보완하고 새로운 통제 수단을 도입하여 거버넌스를 확보해야 합니다. 특히 웹 애플리케이션 방화벽과 API 보안 솔루션은 MCP를 지원해야 합니다. 또한 자동화 툴킷이 AI로 고도화되고 공격자가 공격을 빠르게 무기화할 수 있게 됨에 따라, 봇 관리 도구는 복원력을 유지할 수 있어야 합니다. 예를 들어 LLM 학습 데이터와 검색 증강 생성(RAG) 파이프라인의 콘텐츠가 스크래핑되는 것을 방지하려면, 봇 관리 도구는 악성 패턴을 탐지하는 ML 모델을 활용해 새로운 공격 기법을 식별하고 암호화 및 난독화를 사용하여 우회를 방지해야 합니다.

방어 담당자는 런타임 검사와 함께 AI 모델 및 애플리케이션에 대한 취약점 테스트도 수행해야 합니다. 이러한 기능 강화는 추적성을 확보하고 인간 참여형(HITL) 감독에 필요한 인사이트를 제공하는 데 필수적입니다.

북극성: 보고, 설정하고, 종합하고, 저장하세요.

에이전틱 보안을 구현하려면 탐지 시간을 단축하고, 문제 해결 속도를 높이며, 보안 팀의 부담을 줄여야 합니다.

AI 모델 선택은 전체 AI 시스템을 위험에 빠뜨릴 수 있으므로 배포 전과 런타임에 보안을 강화해야 합니다. F5 AI Red Team과 F5 AI Guardrails을 함께 사용하면 지속적인 테스트와 연속적인 행동 기준선을 통해 잠재적인 악성 활동을 탐지할 수 있습니다.

“에이전트형 AI의 위험을 관리하려면 발생 가능한 문제를 파악하고, 적절한 안전장치를 마련하며, 패턴을 종합해 인시던트 대응을 자동화해야 합니다.”

공개적으로 알려진 특정 공격에만 대응해 동일한 근본적 취약점이 다시 악용될 여지를 남기는 대신, 지속적인 테스트를 통해 근본적인 취약점을 발견하는 데 중점을 둔 선제적 접근 방식이 더 뛰어난 보호를 제공합니다.

Red teaming은 적대적 공격을 시뮬레이션하여 AI 시스템을 집중적으로 테스트하고, 배포 전에 위험 요소를 해결할 수 있도록 합니다. 실시간 모니터링 및 런타임 보호 시스템과 결합하면 보안 제어 기능이 비정상적인 동작과 데이터 유출 같은 공격을 지속적으로 탐지하고 자동으로 대응할 수 있습니다.

EU AI Act와 같은 규정과 NIST의 프레임워크가 의무화됨에 따라, AI 보안 태세를 입증할 수 있어야 합니다.

발생할 수 있는 문제를 미리 파악하고, 적절한 안전장치를 마련하며, 패턴을 종합해 인시던트 대응을 자동화함으로써 리테일 기업은 시간을 절약하고 궁극적으로 비용도 절감할 수 있습니다.