기업은 자신들이 배포하는 에이전틱 AI 솔루션이 운영에 미치는 영향을 파악해야 합니다. 현재 에이전틱 메모리 분야에서는 혁신이 빠르게 진행되고 있어, 운영 영향을 가늠할 차세대 선행 지표로 떠오르고 있습니다. 그 이유는 무엇일까요? 에이전틱 ‘장기 기억’의 혁신이 에이전틱 AI의 혁신을 직접적으로 가속하고 있으며, 에이전틱 AI는 네트워크에 직접적인 영향을 미치기 때문입니다.
According to S&P Global Data의 최근 보고서에 따르면, “추론, 멀티 에이전트 시스템 및 검색 기술의 발전이 에이전틱 AI를 견인하고 있습니다. 에이전틱 AI는 고급 추론 프레임워크, 역동적인 멀티 에이전트 협업 모델, 지능형 검색 기술을 통해 빠르게 진화하고 있습니다. 이러한 혁신을 바탕으로 에이전트는 자율적으로 인식하고 계획하며 행동할 수 있게 되어, 복잡한 실제 환경에서 확장성, 적응성 및 개인화가 향상됩니다.”
장기 메모리 기술의 발전은 에이전틱 AI의 혁신을 촉진하고 있습니다. 고급 추론 프레임워크라고도 하는 이러한 기술에는 LangMem, Memobase, Mem0 등이 있으며, 에이전틱 워크플로의 실행 중은 물론 워크플로 간에도 정보의 상태, 맥락 및 변화 과정에 접근할 수 있도록 새로운 유형의 메모리 기능을 활용합니다. 이처럼 데이터를 생성, 저장, 업데이트, 이동 및 공유하는 모든 과정은 네트워크 수요를 증가시킵니다.
또한 에이전틱 메모리 시스템은 기업 및 개인 정보를 공유하고 업데이트해야 하는 에이전트 그룹이 접근할 수 있는 새로운 데이터 저장 위치입니다. 이러한 정보는 다른 모든 기업 자산과 동일한 수준으로 엄격하게 유지·관리·감사·보호해야 합니다. 이로 인해 네트워크 트래픽에 미치는 세 가지 영향이 드러납니다.
1. 에이전틱 AI는 네트워크 트래픽을 증가시킵니다
According to the Nokia 글로벌 네트워크 트래픽 보고서에 따르면, 기업의 AI 트래픽은 2033년까지 연평균 성장률(CAGR) 57%로 증가할 것으로 예상됩니다. 그 이유는 무엇일까요? 에이전트는 배포 전에는 존재하지 않았던 새로운 트래픽을 발생시켜 대역폭 사용량과 지연 가능성을 높입니다. 이러한 트래픽은 API 호출의 형태로 나타납니다. 더 많은 에이전트가 더 많은 작업을 수행할수록 API 호출도 늘어나 API 엔드포인트의 응답성에 영향을 미칩니다. 검색 증강 생성(RAG) 역시 에이전트 도입과 함께 증가할 가능성이 높은 API 호출의 또 다른 원천입니다. 동적 검색 메모리를 통해 변화하는 컨텍스트를 인식할 수 있기 때문입니다. 즉, RAG는 더 이상 정적인 상태에 머무르지 않고 실시간으로 업데이트됩니다. RAG 사용이 늘어날수록 데이터 업데이트와 추론 강화를 위해 벡터 데이터베이스를 호출하는 API 요청도 증가합니다.
2. 에이전틱 AI로 인한 트래픽 밀도 증가
IDC에 따르면 기업들은 에이전틱 AI 워크로드를 지원하기 위해 생성형 AI 로드맵을 네트워크 현대화 작업과 연계하고 있습니다. 더 많은 에이전트와 리소스가 추가됨에 따라 모든 방향에서 더 많은 네트워크 트래픽 경로가 생겨나고 있으며, 이에 따라 기하급수적으로 확장되는 데이터 경로 메시가 형성되고 있습니다. 컨테이너 간 트래픽이 늘어나고, 컨테이너 호스트로 들어오고 나가는 트래픽도 증가합니다. 컨테이너 포드와 클러스터로 들어오고 나가는 트래픽 역시 늘어납니다. 네트워크 경로가 증가하면 추가 정책과 네트워크 구성 요소에 대한 추가 구성, 추가 자동화가 필요합니다. 네트워크 맵은 더욱 복잡해지고 모니터링 활동도 증가합니다. 그 결과는 무엇일까요? 이 모든 요소가 합쳐져 유지 관리, 보안 및 거버넌스 프로세스의 적용을 받는 더 큰 환경, 즉 데이터 경로 메시가 형성됩니다.
3. 에이전틱 AI에는 더 많은 텔레메트리가 필요합니다
경로가 많아질수록 운영 텔레메트리를 더 많이 내보내고 수집해야 합니다. 이 텔레메트리는 운영 관리와 문제 해결부터 보안 및 거버넌스에 이르기까지 모든 유형의 관측 가능성을 지원합니다. 에이전트, 모델, 리소스가 고도로 집중되면 중앙 집중식 아키텍처에서 네트워크 정체가 발생할 수 있습니다. 지능형 라우팅으로 이를 어느 정도 완화할 수 있지만, 네트워크의 한 구간과 다른 구간 사이에서 정체를 분산해야 하므로 네트워크 용량이 충분하지 않다면 실질적인 도움이 되지 않을 수 있습니다.
다행히 기업은 마이크로서비스 도입 과정에서 얻은 교훈을 에이전트형 AI에도 적용할 수 있습니다. 운영 텔레메트리가 이와 유사하게 폭증함에 따라, 어떤 텔레메트리를 얼마나 생성·수집·분석·저장할 가치가 있는지 결정하는 등 동일한 비용 관리 조치가 필요해집니다.
영향에 대비하는 방법
에이전틱 AI는 아직 구축 단계에 있습니다. 개발자들이 도구와 개발 키트를 만드는 동안, IT 운영자는 에이전틱 AI가 네트워크에 미칠 불가피한 영향에 대비해야 합니다.
가장 철저히 대비한 조직은 개발자 프로토타입과 초기 단계의 인프라 테스트를 병행하여 네트워크에 미치는 영향을 모니터링하고 측정함으로써, 프로덕션 배포에 맞춰 개선 사항을 적용할 수 있도록 할 것입니다. 협업과 소통만으로도 한 부문이 다른 부문보다 지나치게 앞서 나갈 위험을 줄일 수 있습니다. 또한 에이전틱 메모리의 혁신 속도를 추적하면 네트워크 운영자가 혁신의 흐름을 앞서 나가는 데 도움이 됩니다.
에이전틱 메모리 기술의 혁신이 안정화되면, IT 운영자는 자사 네트워크에 최초의 엔터프라이즈급 에이전틱 솔루션을 배포할 시점이 가까워지고 있음을 알게 될 것입니다.
작성자 소개
관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.